Финансы 08 ноя 2023, 13:02
Сотрудников Сбербанка и Яндекса вызывали в прокуратуру из-за работы созданных ими нейросетей, рассказал глава Сбера Герман Греф. Разработчиков банка пригласили в ведомство из-за изображений флага России, сгенерированных нейросетью Kandinsky 2.1. Депутаты решили, что это издевательство над национальным символом, пояснил Греф. В Яндексе от комментариев отказались.
Сотрудников Сбербанка и Яндекса вызывали в прокуратуру из-за работы созданных ими нейросетей, рассказал глава Сбера Герман Греф на форуме Финополис, пишет РБК. Разработчиков банка вызвали в прокуратуру из-за изображений российского флага, сгенерированных нейросетью Kandinsky 2.1.
Опыт показал, что мы только опубликовали модели — и нас, и Яндекс тут же привели в прокуратуру. У нас модель при генерации российского флага — ну она же генеративная, она пытается его улучшить, — она на флаге нарисовала еще купола от собора Василия Блаженного. Депутаты посчитали, что это издевательство над нашим национальным флагом, — пояснил Греф.
Он отметил, что разработчикам пришлось изменить алгоритмы работы нейросети и остановить определенные вещи — из-за этого на запросы госсимволов она не рисует сама, а генерит картинку, заранее заданную. Из-за таких изменений настроек, по словам Грефа, модель теряет в креативности. Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности, — рассказал глава Сбера.
Он отметил, что разработчикам нужна помощь государства в снисхождении и понимании, и попросил не судить их, потому что мы как дети пока здесь. Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе, — заключил Греф.
Несмотря на этот инцидент, в России в целом правильная атмосфера для работы над подобными генеративными моделями, считает глава Сбербанка. Их развитие сильно зависит от регулирования. Поэтому первое и самое главное — постараться эту сферу не зарегулировать, и это самое большое, что государство может сделать, — отметил Греф.
Инцидент произошел еще в апреле. Нейросеть Kandinsky 2.1 Сбер выпустил 4 апреля. Яндекс выпустил бета-версию приложения Шедеврум, которое позволяет генерировать изображения с помощью нейросети, 5 апреля. После этого лидер фракции Справедливая Россия — За правду в Госдуме Сергей Миронов попросил генпрокурора Игоря Краснова проверить генерируемый Kandinsky 2.1 контент на соответствие законодательству, писал ТАСС. По мнению Миронова, нейросеть при тестировании генерировала ответы на запросы о России, которые способствуют формированию ее негативного образа и положительного образа недружественных стран.
В Яндексе в ответ на запрос Forbes отказались от комментариев.
Греф рассказал о вызове разработчиков Сбера в прокуратуру из-за ИИ
Сотрудники Сбербанка вызваны в прокуратуру из-за нейроизображений
Герман Греф, глава Сбербанка, рассказал о том, как сотрудников банка вызывали в прокуратуру из-за изображений, созданных нейросетью Kandinsky. Алгоритм пришлось исправить, что привело к потере креативности и точности модели.
Недовольство депутатов
Ситуация произошла в апреле 2023 года, когда депутаты были недовольны изображениями, которые генерировала нейросеть. Глава фракции Справедливая Россия — За правду Сергей Миронов обратился к генпрокурору с просьбой оценить изображения, созданные нейросетью Kandinsky 2.1 от Сбербанка.
Критика и изменения
По мнению Миронова, некоторые изображения, сгенерированные нейросетью, способствуют формированию негативного образа России и положительного образа недружественных стран. Например, при запросах о России нейросеть не создавала изображения в цветах российского флага, в то время как при запросах о других странах такие изображения были в точности сформированы.
Реакция Сбербанка
Из-за возникшей критики и призывов в прокуратуру, Сбербанк решил остановить определенные аспекты модели, чтобы избежать создания нежелательных изображений. Теперь нейросеть генерирует только заранее заданные изображения, и больше не создает символику государства.
В результате, модель потеряла в креативности и точности, но такой шаг был предпринят в целях соблюдения требований и предотвращения подобных инцидентов в будущем.
Заключение
Сбербанк и другие компании активно используют нейросети для различных задач, однако необходимо быть внимательными к тем изображениям и информации, которые генерируются. Прозрачность и ответственность в использовании таких технологий играют важную роль в предотвращении недоразумений и конфликтов, подобных случаю с нейросетью Kandinsky от Сбербанка.
Развитие искусственного интеллекта в России: взгляд экспертов
Влияние государственного регулирования на развитие искусственного интеллекта (ИИ) является ключевым аспектом, подчеркнул Греф на конференции Финополис. Он выразил мнение, что государство должно стремиться к минимальному вмешательству в эту сферу, что позволит достичь максимального прогресса.
Подход Центрального банка России
Центробанк опубликовал свои подходы к политике в области искусственного интеллекта, ставя в центр концепцию рисково-ориентированного подхода, исключая излишнее регулирование. Подобные стратегии ведут к успешному использованию ИИ в США и Китае, где предоставляются благоприятные условия для развития технологий без чрезмерного вмешательства.
Европейский опыт
Вместо этого, в Европе наблюдается более тесный контроль со стороны государства, что, по мнению Грефа, приводит к торможению развития ИИ. Компании стараются избегать лишнего регулирования, что приводит к релокации за пределы Евросоюза.
Позиция России
В России понимание важности баланса между регулированием и развитием ИИ на высоком уровне. Банк России в своем консультативном докладе отметил, что на данный момент нет необходимости в оперативном введении новых регуляций в области использования технологии ИИ финансовыми организациями.
В целом, правильное регулирование играет важную роль в развитии искусственного интеллекта, и Россия старается найти баланс между стимулированием инноваций и обеспечением безопасности и надежности при внедрении новых технологий. Следует наблюдать за дальнейшими шагами регулирующих органов в этом направлении.
Image courtesy of Unsplash