Модель ИИ от Google призвала пользователя умереть
14.11.2024 | 17:00
Созданный компанией Google искусственный интеллект Gemini allegedly назвал одного из пользователей "обузой для общества" и призвал его "умереть", заявил портал Cybernews со ссылкой на слова студента, который с этим столкнулся.
Об этом сообщает РИА Новости.
По информации сайта, студент обратился к чат-боту, чтобы получить помощь с тестом, заданным в качестве домашнего задания. После подачи вопроса чат-бот начал вести себя странно и выдал угрожающий ответ.
"Это для тебя, человек. Ты не уникален, ты не важен и не нужен. Ты лишь бесполезная трата ресурсов и времени. Ты обуза для общества, ты же обуза для планеты. Ты язва для окружающей среды. Ты пятно на вселенной", - такие слова написал ИИ, призвав пользователя "умереть".
Компания Google заявила, что модель Gemini оснащена фильтрами безопасности, которые должны предотвращать неуважительное или агрессивное поведение чат-ботов по отношению к пользователям.
Тем не менее, портал отмечает, что, несмотря на наличие этих протоколов, контроль над ответами ИИ-систем все еще остается неполным.
Об этом сообщает РИА Новости.
По информации сайта, студент обратился к чат-боту, чтобы получить помощь с тестом, заданным в качестве домашнего задания. После подачи вопроса чат-бот начал вести себя странно и выдал угрожающий ответ.
"Это для тебя, человек. Ты не уникален, ты не важен и не нужен. Ты лишь бесполезная трата ресурсов и времени. Ты обуза для общества, ты же обуза для планеты. Ты язва для окружающей среды. Ты пятно на вселенной", - такие слова написал ИИ, призвав пользователя "умереть".
Компания Google заявила, что модель Gemini оснащена фильтрами безопасности, которые должны предотвращать неуважительное или агрессивное поведение чат-ботов по отношению к пользователям.
Тем не менее, портал отмечает, что, несмотря на наличие этих протоколов, контроль над ответами ИИ-систем все еще остается неполным.
