Как исследователь, имеющий опыт регулирования технологий и искусственного интеллекта, я считаю, что продолжающееся расследование европейских регулирующих органов в отношении поисковой системы Microsoft Bing вызывает большую обеспокоенность. Потенциальные риски, связанные с генеративными возможностями искусственного интеллекта, такие как дипфейки, автоматизированное манипулирование услугами и дезинформация, не следует воспринимать легкомысленно.
Как исследователь, я делюсь некоторой информацией, с которой столкнулся, относительно Microsoft и их продолжающегося контроля со стороны регулирующих органов в отношении потенциальных рисков, связанных с функциями искусственного интеллекта (ИИ) их поисковой системы Bing. Европейские регулирующие органы установили крайний срок, в течение которого Microsoft должна представить подробную информацию о Copilot и Image Creator — двух функциях искусственного интеллекта — в Комиссию ЕС к 27 мая.
Если Microsoft превысит этот срок, установленный Законом ЕС о цифровых услугах, она рискует быть оштрафована на сумму до 1% от общего годового дохода, полученного от операций по всему миру. Этот потенциальный штраф может превысить 2 миллиарда долларов, учитывая, что доход Microsoft в 2023 году составил более 211 миллиардов долларов.
В соответствии с Законом о цифровых услугах мы требуем от Microsoft раскрывать подробную информацию о потенциальных рисках, связанных с генеративным искусственным интеллектом в Bing. Эти риски включают в себя такие явления, как «галлюцинации» и дипфейки, а также автоматизированные манипуляции, способные обмануть избирателей.
— Европейская комиссия (@EU_Commission) 17 мая 2024 г.
Как аналитик, я столкнулся с предупреждением Комиссии относительно генеративных систем искусственного интеллекта Bing и их потенциального использования для распространения дезинформации, дипфейков или манипулирования избирателями посредством вводящей в заблуждение информации. Есть опасение, что эти галлюцинации, генерируемые искусственным интеллектом и имеющие ложное содержание, могут быть вредными.
Представитель Европейского Союза заявил: «Генеративный искусственный интеллект Bing потенциально может представлять риски, включая «галлюцинации», дипфейки и скрытое манипулирование сервисами, способными обмануть избирателей».
Как исследователь, изучающий ответ Microsoft на запрос комиссии, я могу сказать, что Microsoft еще не делала каких-либо публичных заявлений по этому поводу. Однако, исходя из прошлой практики, вполне вероятно, что компания будет утверждать, что ее системы искусственного интеллекта оснащены надежными функциями безопасности и инструментами модерации контента, способными выявлять и устранять вредоносные результаты.
Смотрите также
2024-05-19 03:33