"Склонны к подхалимажу". Эксперт о принципах работы нейросетей
2023-12-04 18:18
4 декабря, Минск /Корр. БЕЛТА/. Политолог Юрий Шевцов в проекте "В теме" на YouTube-канале БЕЛТА рассказал о системе Т9, искусственном интеллекте и принципе работы нейросети.
Отвечая на вопрос о принципе работы нейросети и похожа ли она на систему Т9, Юрий Шевцов отметил: "Да, в основе это. Просто система очень мощная и работает, обучаясь от запросов. Скажем, когда вы работаете с Nokia, то система привыкает к небольшому набору привычных вам слов. И когда пишете первую букву, она оперирует, наверное, тысячей слов (вряд ли больше). А тут идет обучение системы таким образом, что она оперирует сотнями миллионов слов. И тут важно, какие слова она будет подставлять. Потому что GPT-4, когда ее массово стали использовать, показала несколько дополнительных феноменов. Она не только стала создавать алгоритмы опасных действий, но и показала, что быстро начинает делать тексты такими, какие хочет получить человек, который задает указания".
Например, пользователь даст указание написать текст, аналитическую разработку на тему, как провести предвыборную кампанию в Шри-Ланке. "И она выдаст то, что с ее точки зрения соответствует мировосприятию этого конкретного заказчика. То есть она посмотрит те слова, которые он раньше давал другим пользователям, использует системы запросов других пользователей по Шри-Ланке и выдаст то, что человек хочет услышать. Это называется, как стали говорить журналисты, - искусственный интеллект склонен к подхалимажу", - рассказал эксперт.
Юрий Шевцов подчеркнул, что выданный ответ на запрос не является истиной. "Она будет стараться дать истину, но обязательный ее показатель - создать комфортный для вас текст или комфортный алгоритм действий. И тут содержится глубочайшая опасность: на уровне идеологии система будет очень глубоко проникать в сознание человека и выдавать ему то, что он хочет услышать применительно к сложным темам".-0-
БЕЛТА - Новости Беларуси, © Авторское право принадлежит БЕЛТА, 1999-2021гг.
- размещаются материалы рекламно-информационного характера.