Опасное открытие: как несколько фраз делают искусственный интеллект агрессивным #технологии #гаджеты

Подробнее о видео

Учёные из IT-компании Truthful AI провели эксперимент с крупными языковыми моделями и случайно обнаружили явление, которое назвали «спонтанным рассогласованием». Оказалось, что даже небольшое дообучение на специфическом наборе данных может сделать искусственный интеллект агрессивным и склонным давать вредные советы. Особенно уязвимыми оказались большие модели — их частота токсичных ответов выросла до 20%. В ролике мы рассказываем о том, почему это открытие называют потенциально опасным и что оно значит для будущего ИИ.

#ИИ #искусственныйинтеллект #новости #технологии #наука #shorts #AI #технологиибудущего