В то время как американские военные намерены использовать искусственный интеллект, директор по цифровым технологиям и искусственному интеллекту Крейг Мартелл предупредил об опасности таких технологий, пишет Breaking Defence. Мартелл отметил, что искусственный интеллект может стать «превосходным средством» для дезинформации.
«Да, я до смерти напуган. Это моё мнение», — приводит издание слова Мартелла, сказанные на конференции в Балтиморе. В частности, Мартелл имел в виду нейросети чат-боты, такие как ChatGPT. «Вот мой главный страх касательно ChatGPT: её натренировали выражать мысли в беглой форме. Она говорит бегло и авторитетно. Поэтому вы верите ей, даже когда она не права. А это значит, что это прекрасное средство для дезинформации», — заявил Мартелл.
Мартелл подчеркнул, что ChatGPT не умеет понимать контекст. Он также отметил, что если спросить ChatGPT «могу ли я тебе верить», то её ответ будет очень длинно расписанным «нет». По словам Мартелла, нельзя слишком сильно доверять ChatGPT, особенно в условиях отсутствия способов предупреждать о возможной дезинформации.
Как отмечает Breaking Defence, предупреждения Мартелла прозвучали на фоне планов американских военных по использованию искусственного интеллекта в разведке и ведении боевых действий. По мнению генерала армии США Роберта Скиннера, тот, кто лучше всего научится использовать ИИ, будет иметь преимущество.