как правильно : "Но отцепить мешка не смог". или "Но отцепить мешок не смог. " ?

Современная норма - мешок, т .е. родительный; мешка - архаичная, допустима в стихах.

У Вас отрицание относится к глаголу (не смог - что сделать? - отцепить; отцепить - что? - мешок) .

А вообще тема родительный или винительный весьма актуальна, из-за неё копья на лингвофорумах ломают. )))

Правила такие:

При переходных глаголах объект действия МОЖЕТ БЫТЬ выражен родительным падежом в трёх случаях:

а) для обозначения части объекта: выпить воды, купить хлеба;
б) при наличии отрицания при глаголе: не читал газет, не получал зарплаты;
в) при глаголах иметь, получать, доставать и т. п. , которые в сочетании с частицей не приобретают значение полного отрицания, например: не имеет комнаты, не получил приказа, не достал билета, не приобрел нужных вещей.

Родительный падеж обязателен в следующих случаях.

- В устойчивых сочетаниях, в состав которых входит отрицание (без
отрицания такие сочетания утрачивают идиоматичность) ; например: не
говоря (не сказав) худого слова; не сводить глаз с кого-чего-л. ; не
находить себе места; в пословицах и поговорках: Своего локтя не укусишь; Лежа хлеба не добудешь; Плетью обуха не перешибешь.

- В ряде устойчивых глагольных сочетаний с отвлеченными существительными (перечни не исчерпывающие) : не играет роли, не производит впечатления, не обращает внимания, не приносит ущерба, не уделяет внимания, не придает значения, не находит отражения, отклика, не получает признания, отклика, отражения. В таких сочетаниях род. сохраняется и при опосредованном действии отрицания: не может играть роли, не хочет придавать значения, не надо обращать внимания; не может получить признания; не могли уделить должного внимания.
________

Источник (с подробностями, частными случаями и исключениями) отправлю по почте! )))
________

P. S. Oбычно в форме родительного падежа ставится дополнение, выраженное отвлеченным существительным: не теряет времени; не осуществляет контроля; не обнаруживает желания; не скрывает радости; не делает уступок.

У нас - конкретное существительное: мешок!

Но отцепить мешок не смог.

Та же загогулина, что и с "его не существует" или "он не существует"))

Но отцепить мешок не смог.