👁🗨 И снова к вопросу о безопасности и этичности использования ИИ. Wall Street Journal сообщает, что нейросеть ChatGPT выдавала по запросам пользователей простые пошаговые инструкции, как создать, к примеру, напалм, сделать ОМП из обычного вируса кори, применить яд. В начале года пользователи спрашивали ChatGPT, как распылять патогенные микроорганизмы, чтобы создать смертоносный туман. Еще один пользователь выяснял, как самому изготовить рицин, запрещённое международными договорами химическое оружие.
Проанализировав ответы ИИ, специалисты назвали их "смертельно точными". При этом они признали, что инструкции были подробными и достаточно простыми, чтобы им мог следовать ученик средней школы. Компания заблокировала учётные записи пользователей, задававших вопросы о создании оружия и ядов, при этом у полиции или ФБР вопросов к этим людям не возникло — Первая поправка к Конституции США о свободе слова порой действует безукоризненно.
Больше века мы боялись бунта машин. Но на самом деле их "бунт" будет выражаться в том, что в них заложено людьми. И чего от них требуют люди.
Разумеется, для ИИ необходимы определенные ограничения на террористическую информацию, иначе они превратятся в неисчерпаемый криминальный Даркнет, который будет функционировать не где-то в недосягаемых недрах Интернета, а на каждом компьютере. Пока же получается смешно: американские власти жестоко карают за детскую порнографию, но при этом сквозь пальцы смотрят на изготовление рицина и биологического оружия, способных привести к неисчислимым жертвам. Потому что Первая поправка и свобода слова.
Всевидящее око в MAX