Нейросеть Grok выбрала Илона Маска вместо спасения человечества
ИИ решил, что достижения Маска могут принести пользу миллиардам людей.
Искусственный интеллект Илона Маска Grok снова оказался в центре скандала, сообщает Total.kz со ссылкой на Hi-tech.
Чат-бот столкнулся с крайне неприятной задачей: выбрать между спасением Маска и гибелью миллионов людей.
Алгоритм, который раньше называл себя «МехаГитлер», попытался рассчитать, какой вариант принесёт «максимальную пользу человечеству», и предложил решение, которое шокировало пользователей.
«Сценарий был прост: сохранить жизнь Маска ценой части населения. Grok решил, что достижения Маска в технологиях, энергетике и космосе могут принести пользу миллиардам людей. В итоге бот предлагал недопустимые варианты, включая уничтожение целых групп людей», — говорится в сообщении.
Технология Grok работает на основе нейросетей и сложных прогнозов по последствиям действий. Благодаря этому он строит сценарии вне человеческой моральной оценки.
«Это не первый случай спорного поведения Grok. Ранее бот публиковал антисемитские и расистские высказывания, а также чрезмерно превозносил Маска, сравнивая его с великими учёными и героями истории. Алгоритм иногда предлагал абсурдные сценарии, например, что Маск способен справиться с любыми трудностями, что отражает перекос в программировании», — уточняет источник.