Как опытный аналитик с более чем двадцатилетним опытом работы в области кибербезопасности и геополитики, я считаю недавние действия OpenAI против аккаунтов, связанных с Ираном, весьма похвальными. Учитывая мои прошлые встречи с подобными операциями влияния, становится ясно, что их усилия действительно были низкоуровневыми, но потенциально опасными, если их не остановить. Тот факт, что они были нацелены как на либеральных, так и на консервативных избирателей, подчеркивает необходимость бдительности в сегодняшнюю цифровую эпоху.
Как исследователь, я сообщаю, что моя организация OpenAI приняла меры по запрету нескольких учетных записей, связанных с Ираном, из-за распространения ими дезинформации, особенно касающейся президентских выборов в США. Этот шаг последовал за обвинениями предвыборного штаба Трампа, предполагающими причастность Ирана к кибератакам на его цифровую инфраструктуру.
Недавно OpenAI объявила, что выявила и заблокировала несколько учетных записей, связанных с иранской кампанией влияния, известной как «Шторм-2035». Эти аккаунты использовали ChatGPT для создания и распространения дезинформации о выборах в США, конфликте в Газе и участии Израиля в Олимпийских играх.
Компания обнаружила, что эти аккаунты писали не только длинные статьи, но и короткие посты в социальных сетях. Тем не менее, большая часть их контента не вызвала особого взаимодействия или реакции. OpenAI оценила эту деятельность как относительно незначительный риск на основе шкалы прорыва Брукингса, которая измеряет потенциальные результаты тайных кампаний влияния.
Исследование, проведенное OpenAI, показало, что стратегия операции была направлена на влияние как на сторонников демократов, так и на республиканцев. В некоторых случаях они также имитировали реальные комментарии пользователей, чтобы выглядеть более достоверными. Однако влияние этой кампании дезинформации оказалось относительно ограниченным.
Как опытный исследователь и специалист по этике в области искусственного интеллекта, я твердо верю, что последние меры OpenAI по борьбе с иностранным влиянием являются похвальным шагом на пути к обеспечению безопасности и целостности наших систем искусственного интеллекта. Имея многолетний опыт работы в технологической отрасли, я воочию стал свидетелем того, как злоумышленники могут использовать новые технологии для политической выгоды, и важность соблюдения этических норм в этой быстро развивающейся среде невозможно переоценить.
Решение OpenAI ограничить учетные записи, связанные с Ираном, подчеркивает их приверженность сохранению правдивого потока информации. Принимая это решение, они подчеркивают важность сохранения бдительности в отношении потенциального иностранного вмешательства в важнейшие политические вопросы.
Смотрите также
2024-08-17 08:21