Мерзкий ИИ любит делать "невыразимо ужасные" посты и троллить онлайн: "Можно использовать в политике"

Модель искусственного интеллекта, обученная на 3,3 миллионах потоков с веб-сайта 4chan, по-видимому, стала огромным онлайн-троллем, опубликовав более 15 000 расистских, оскорбительных и жестоких постов менее чем за 24 часа.

Соответствующий пост разместили на портале «DailyStar»

Исследователь искусственного интеллекта говорит, что он создал «худший ИИ из когда-либо существовавших», способный публиковать в сети десятки тысяч постов, полных ненависти.

Ютубер Янник Килчер говорит, что он обучил ИИ, используя доску объявлений «Политически некорректно» на веб-сайте 4chan, скандальном форуме, печально известном своими «ненавистными» анонимными сообщениями.

Используя 3,3 миллиона тредов за три года на сайте, бот под названием GPT-4chan научился разговаривать на сайте. Затем его создатель «выпустил» 9 версий ИИ обратно на 4chan, где он опубликовал тысячи и тысячи оскорбительных и даже «жестоких» постов менее чем за один день.

Используя языковую модель, ИИ смог научиться писать сообщения, которые «неотличимы» от написанных людьми.

Судя по всему, пользователи 4chan начали замечать посты бота и догадываться, кто стоит за постами. Килчер говорит, что изначально никто не думал, что это чат-бот из-за его реалистичности.

«Модель довольно мерзкая, должен вас предупредить», — сказал Килчер. «По сути, это то же самое, как если бы вы зашли на веб-сайт и взаимодействовали там с пользователями».

Тем не менее, он сказал, что это "было хорошо в ужасном смысле. Оно прекрасно заключало в себе смесь оскорблений, нигилизма, троллинга и глубокого недоверия к любой информации, которая пронизывает большинство сообщений на сайте".

Эксперимент выявил потенциальные масштабы использования ИИ в Интернете для распространения дезинформации и разжигания ненависти. Один комментатор написал: «Браво, вы меня одурачили. Действительно страшно подумать, что я делился мемами с буквальными ИИ, потому что сомневаюсь, что вы были единственными».

Один пользователь, Арно Ванет, написал: «Это можно использовать в политических целях, представьте, как легко можно так или иначе повлиять на исход выборов».

Килчер предупредил людей, чтобы они не пробовали модель дома, и модель подверглась критике за отсутствие этики ИИ.

Один эксперт по искусственному интеллекту, доктор Лорен Окден-Райнер, утверждала, что эксперимент «никогда не пройдет совет по этике исследований на людях».

Другой исследователь ИИ, Артур Холланд Мишель, сказал Motherboard: «Создание системы, способной создавать невыразимо ужасный контент, использовать его для создания десятков тысяч в основном токсичных сообщений на настоящей доске сообщений, а затем выпустить его в мир, чтобы кто-нибудь еще смог сделать то же самое, это кажется неправильным».

Напомним, что в сети сообщили, что зарядные устройства на iPhone могут совсем скоро исчезнуть.