как узнать в какой программе сделан файл с расширением DAT и расшифровать его

DAT - Файл данных, который создается какой-либо программой и впоследствии ассоциируется именно с ней (т. е. в ней воспроизводится) . Файл в формате DAT может содержать текстовую и двоичную информацию. Если файл содержит текстовые данные, то его можно открыть и изменить в любом текстовом редакторе. DAT-файлы создаются множеством программ, таких как Microsoft Visual Studio, Corel WordPerfect, Nero ShowTime, Nullsoft Winamp, SoftVelocity Clarion, Ontrack EasyRecovery, Runtime GetDataBack, MapInfo software и другими. Воспроизводятся с помощью этих же программ.

это может быть что угодно, и как угодно, смотрите через текстовый редактор и анализируйте

это смотря какой DAT... Файлы с таким расширением бывают в разных программах и служат для разных целей (в зависимости от программы)
Это походу как контейнер, к примеру RAR, ZIP, AVI и многие другие.
Можно попробывать через блокнот или WinHex

Если вам неизвестно, какой программе принадлежит dat-файл, это можно попытаться определить следующим образом:

Если файл имеет размер, близкий к размеру CD (около 700 Мб) , то возможно это — VCD Video File, формат видео, который был распространен несколько лет назад. В таком случае попробуйте открыть такой файл видеоплеером, установленным в системе. Как правило, все они распознают этот формат видео.
Если вы видите такой файл в приложениях к письму, то вероятнее всего, он был добавлен туда Microsoft Outlook, или же Microsoft Exchange Server при отправке и содержит информацию о форматировании текста, содержащегося в сообщении. В этом случае информация, содержащаяся в файле, будет автоматически опознана и обработана вашим Microsoft Outlook, или другим почтовым клиентом, способным отображать rtf-содержимое писем: Microsoft Mail, WinMail Decoder Pro, WMDecode for Windows.
Если открыть dat не удалось, значит, это файл данных какого-либо иного приложения: Microsoft Visual Studio (или приложения, разработанного с помощью этой среды программирования) , Corel WordPerfect, Nullsoft Winamp, Nero ShowTime, SoftVelocity Clarion, Runtime GetDataBack, Ontrack EasyRecovery, и других. Чтобы установить, какое именно приложение создало файл, посмотрите на названия папок в полном пути к файлу. Возможно, там содержится название программного продукта, данные которого сохранены в данном dat-файле.

Попробуй через Far или Volkov Commander, мож там чёнить вылезет