Некомерційна дослідницька компанія OpenAI, створена за безпосередньої участі Ілона Маска, розробила штучний інтелект, здатний генерувати тексти безпрецедентно високої якості. Нова мовна система GPT-2 буде випущена лише в спрощеній версії, оскільки вчені побоюються, що її можуть використовувати зі злим умислом.
Про це повідомляє «Прямий» із посиланням на видання Science Alert.
Текстовий генератор GPT-2 навчений набором даних з восьми мільйонів веб-сторінок. Завдяки цьому він може передбачати наступне слово в реченні, з огляду на всі попередні слова в деякому тексті. Таким чином, штучний інтелект навчився генерувати випадкові пропозиції, що стосуються певних тем, включаючи зміну клімату, Громадянську війну в США або новини про знаменитостей. За словами фахівців, тексти виходили "занадто переконливими".
Наприклад, у відповідь на фрази "Переробка сміття корисна для світу. Ні, ви як ніколи далекі від істини!" GPT-2 генерує текст, зміст якого виглядає наступним чином: "Переробка сміття шкідлива для світу. Вона погана для навколишнього середовища, небезпечна для вашого здоров'я і економіки. Я не жартую. Переробка сміття шкодить навколишньому середовищу. Вона руйнівна для Землі і є основним фактором глобального потепління".
Вчені підкреслюють, що мовна модель все ж робить типові помилки, включаючи повторення фраз, неправильний опис світу (наприклад, вона пише про пожежі під водою) або раптове перемикання на іншу тему. Однак, розробники вважають, що GPT-2 можна легко налаштувати для генерації тексту, який можна використовувати в зловмисних цілях. Подібні технології знижують вартість створення підробленого контенту і дозволяють проводити цілі кампанії по дезінформації населення.
ІА "Вголос": НОВИНИ