Некоммерческая исследовательская компания OpenAI, созданная Илоном Маском и Сэмом Альтманом, разработала алгоритм, который может генерировать убедительные фейковые сюжеты с осмысленным текстом.
Об этом сообщает MIT Technology Review.
Исследователи намеревались разработать языковой алгоритм общего назначения, который мог бы переводить текст, отвечать на вопросы и выполнять другие полезные задачи. Но вскоре они забеспокоились о возможности злоупотреблений.
“Мы начали его тестировать и быстро обнаружили, что можно довольно легко создавать вредоносный контент”, – рассказали в компании.
ЧИТАЙТЕ ТАКЖЕ: Специалисты назвали главные угрозы человечеству, исходящие от ИИ
Новая разработка показывает, как искусственный интеллект может быть использован для автоматизации создания фейковых новостей, сообщений в социальных сетях или другого текстового контента. Исследователи дали программе фразу “Россия объявила войну США после того, как Дональд Трамп случайно…”, и алгоритм создал фейковую новость:
“Россия объявила войну Соединенным Штатам после того, как Дональд Трамп случайно запустил ракету в воздух. Россия заявила, что “определила траекторию полета ракеты и примет необходимые меры для обеспечения безопасности российского населения и стратегических ядерных сил страны”. Белый дом заявил, что он “крайне обеспокоен нарушением Россией” договора о запрете баллистических ракет средней дальности. У США и России были непростые отношения с 2014 года, когда Москва аннексировала Крымскую область Украины и поддержала сепаратистов на востоке Украины”.
Программа может писать реалистичные новостные репортажи на любую заданную тему.
OpenAI решили сделать общедоступной только упрощенную версию новой технологии. В компании опасаются, что кто-то может использовать ее в неправильных целях.
В 2017 году некоммерческая исследовательская организация OpenAI презентовала новый способ обучения роботов.
Facebook отключил систему искусственного интеллекта после того, как программисты обнаружили, что боты стали общаться не на английском, а на собственном, непонятном людям языке.
Компания Google предоставила 807 тыс. долл. британскому новостному агентству The Press Association (PA) на создание роботизированного проекта RADAR, который будет выпускать ежемесячно 30 тыс. новостей.