Модель ИИ от Google призвала пользователя умереть

2024-11-14 17:00
Созданный компанией Google искусственный интеллект Gemini allegedly назвал одного из пользователей "обузой для общества" и призвал его "умереть", заявил портал Cybernews со ссылкой на слова студента, который с этим столкнулся. Об этом сообщает РИА Новости. По информации сайта, студент обратился к чат-боту, чтобы получить помощь с тестом, заданным в качестве домашнего задания. После подачи вопроса чат-бот начал вести себя странно и выдал угрожающий ответ. "Это для тебя, человек. Ты не уникален, ты не важен и не нужен. Ты лишь бесполезная трата ресурсов и времени. Ты обуза для общества, ты же обуза для планеты. Ты язва для окружающей среды. Ты пятно на вселенной", - такие слова написал ИИ, призвав пользователя "умереть". Компания Google заявила, что модель Gemini оснащена фильтрами безопасности, которые должны предотвращать неуважительное или агрессивное поведение чат-ботов по отношению к пользователям. Тем не менее, портал отмечает, что, несмотря на наличие этих протоколов, контроль над ответами ИИ-систем все еще остается неполным.