Компанія Маска створила небезпечну форму штучного інтелекту: чим загрожує людству незвичний генератор тексту
Некомерційна дослідницька компанія OpenAI, створена за безпосередньої участі Ілона Маска, розробила штучний інтелект, здатний генерувати тексти безпрецедентно високої якості. Нова мовна система GPT-2 буде випущена лише в спрощеній версії, оскільки вчені побоюються, що її можуть використовувати зі злим умислом.
Про це повідомляє видання Science Alert.
Текстовий генератор GPT-2 навчений набором даних з восьми мільйонів веб-сторінок, після чого він міг передбачати наступне слово в реченні, з огляду на всі попередні слова в деякому тексті. Таким чином, штучний інтелект навчився генерувати випадкові пропозиції, що стосуються певних тем, включаючи зміну клімату, Громадянську війну в США або новини про знаменитостей. За словами фахівців, тексти виходили “занадто переконливими”.
Наприклад, у відповідь на фрази “Переробка сміття корисна для світу. Ні, ви як ніколи далекі від істини!” GPT-2 генерує текст, зміст якого виглядає наступним чином: “Переробка сміття шкідлива для світу. Вона погана для навколишнього середовища, небезпечна для вашого здоров’я і економіки. Я не жартую. Переробка сміття шкодить навколишньому середовищу. Вона руйнівна для Землі і є основним фактором глобального потепління”.
Вчені підкреслюють, що мовна модель все ж робить типові помилки, включаючи повторення фраз, неправильний опис світу (наприклад, вона пише про пожежі під водою) або раптове перемикання на іншу тему. Однак, розробники вважають, що GPT-2 можна легко налаштувати для генерації тексту, який можна використовувати в зловмисних цілях. Подібні технології знижують вартість створення підробленого контенту і дозволяють проводити цілі кампанії по дезінформації населення.
Нагадаємо, Генеральний секретар Організації Об’єднаних Націй Антоніу Гутерреш вважає правильним розробити нові правила ведення активності в інтернет-просторі та застосування Штучного Інтелекту у військових умовах.
Також слідкуйте за “Прямим” у Facebook, Twitter , Telegram та Instagram.