21 мая, 09:35
Заместитель председателя Совета Безопасности РФ Дмитрий Медведев на днях раскритиковал YandexGPT за некоторые ответы. В частности, речь шла о вопросах по изъятию российских активов в США, о расстоянии от Киева до Белгорода и про памятники Бандере на Украине.
По словам политика, нейросеть уклоняется от ответов на данные темы. И, хотя один раз она назвала расстояние между столицей Украины и Белгородом, при повторном вопросе «включила дурку».
«С одной стороны, это сильно подрывает доверие к «Яндексу» и его продуктам. А с другой — дает основания не только для того, чтобы признать сервисы «Яндекса» очень неполными, но даже нынешних менеджеров (не приведи Господь!)…иноагентами», — писал Медведев в Telegram.
Член комитета Госдумы по информационной политике Антон Немкин в интервью «Свободной Прессе» попросил не забывать, что полноценного искусственного интеллекта сейчас нет. Действительно есть технологии, которые на нем основаны, но это разные вещи.
«В первую очередь, это напоминает нам о том, что такие технологии еще далеки от совершенства. Они требуют большого количества сил и времени, которые должны вкладываться в их развитие. Нет сомнений, что в перспективе ближайших лет генеративные модели станут обыденностью, и ими будут пользоваться в каждой семье…проникновение этих технологий идет в два раза быстрее, чем в свое время смартфонов, и в четыре раза быстрее, чем интернета», — пояснил парламентарий.
Немкин подчеркнул, что технологии на основе ИИ создаются людьми. Именно человек закладывает модели, а потом эти модели генерируют текст, картинки, видео. К примеру, зарубежные нейросети обладают мировоззрением молодых западных программистов с соответствующими взглядами.
«Понятно, что ждать от этих программ объективности не приходится — даже наоборот, возникает ряд угроз от использования не национального искусственного интеллекта. И самая главная из них — воздействие на население через когнитивные ловушки. Очевидно, в случае с нашими сервисами допустить подобного мы точно не можем», — отметил собеседник издания.
По его словам, пора задуматься о введении некой государственной сертификации для тех нейросетей, которые создаются и активно используются в России. Необходимо видеть и понимать, как ИИ общается с людьми, какие ответы он дает и в каких моментах его работу точно нужно корректировать.
«В вопросе создания нейросетей, языковых моделей, любых продуктов на основе ИИ, с которыми так или иначе будут взаимодействовать россияне, должно быть больше прозрачности. Компаниям нужно открыто показывать, как их создают, что туда закладывают. Это нужно, чтобы при взаимодействии с технологиями на основе ИИ человек получал не просто обезличенные данные, а информацию, которая взята из достоверных источников и точно проверена, верифицирована», — уточнил Немкин.
В завершении он сказал, что замечания к YandexGPT справедливы, но нужно дать «Яндексу» чуть больше времени на то, чтобы полностью скорректировать работу этой нейросети.
Источник: news.rambler.ru
