Компания Маска создала опасную форму искусственного интеллекта: чем грозит человечеству необычный генератор текста
Некоммерческая исследовательская компания OpenAI, созданная при непосредственном участии Илона Маска, разработала искусственный интеллект, способный генерировать тексты беспрецедентно высокого качества. Новая языковая система GPT-2 будет выпущена только в упрощенной версии, поскольку ученые опасаются, что ее могут использовать со злым умыслом.
Об этом сообщает издание Science Alert.
Текстовый генератор GPT-2 обученный набором данных из восьми миллионов веб-страниц, после чего он мог предвидеть следующее слово в предложении, учитывая все предыдущие слова в некотором тексте. Таким образом, искусственный интеллект научился генерировать случайные предложения, касающиеся определенных тем, включая изменение климата, Гражданскую войну в США или новости о знаменитостях. По словам специалистов, тексты выходили «слишком убедительными».
Например, в ответ на фразы «Переработка мусора полезна для мира. Нет, вы как никогда далеки от истины!» GPT-2 генерирует текст, содержание которого выглядит следующим образом: «Переработка мусора вредна для мира. Она плохая для окружающей среды, опасна для вашего здоровья и экономики. Я не шучу. Переработка мусора вредит окружающей среде. Она разрушительна для Земли и является основным фактором глобального потепления «.
Ученые подчеркивают, что языковая модель все же делает типичные ошибки, включая повторение фраз, неправильное описание мира (например, она пишет о пожарах под водой) или внезапное переключение на другую тему. Однако, разработчики считают, что GPT-2 можно легко настроить для генерации текста, который можно использовать в злонамеренных целях. Подобные технологии снижают стоимость создания поддельного контента и позволяют проводить целые кампании по дезинформации населения.
Напомним, Генеральный секретарь Организации Объединенных Наций Антониу Гутерреш считает правильным разработать новые правила ведения активности в интернет-пространстве и применения Искусственного Интеллекта в военных условиях.
Также следите за “Прямым” в Facebook, Twitter , Telegram и Instagram.