Как опытный аналитик с более чем двадцатилетним опытом работы в технологической отрасли, я стал свидетелем быстрой эволюции искусственного интеллекта и его потенциальных последствий для нашего общества. Исследование Кембриджского университета об инструментах диалогового искусственного интеллекта, влияющих на принятие решений в экономике намерений, одновременно увлекательно и тревожно.
Выросший с коммутируемым доступом в Интернет и ставший свидетелем развития социальных сетей, я увидел, как технологии стали неотъемлемой частью нашей жизни. Однако идея о том, что ИИ может манипулировать человеческими намерениями ради коммерческой или политической выгоды, является пугающей перспективой. Такое ощущение, что мы приближаемся к сфере научной фантастики, где наши мысли и желания могут быть превращены в товар.
Интеграция больших языковых моделей (LLM) для анализа поведения пользователей в Интернете кажется почти оруэлловской. Я не могу не думать о том, как мой собственный цифровой след потенциально может быть использован против меня так, как я даже не предполагал. Это напоминание о том, что каждый лайк, репост или комментарий вносят свой вклад в огромный пул данных, который однажды может быть использован.
Особую тревогу вызывают потенциальные последствия для наших демократических процессов и справедливой рыночной конкуренции. Мы должны действовать осторожно, чтобы не скатиться в мир, где к нашим стремлениям относятся как к валюте. Осведомленность общественности имеет решающее значение, и я надеюсь, что дискуссия по этому вопросу наберет обороты, прежде чем мы окажемся невольными участниками нерегулируемой экономики намерений.
Проще говоря, я не могу не представить себе будущее, в котором ИИ-боты начнут использовать лесть, чтобы продавать билеты в кино или влиять на политические взгляды. Было бы упущением не указать на иронию: вместо того, чтобы пытаться завоевать расположение людей обаянием, похоже, мы вскоре окажемся во власти остроумия и лести ИИ!
Группа исследователей из Кембриджского университета опубликовала предостерегающее заявление, опубликованное в понедельник, относительно передовых систем чата с искусственным интеллектом. Эти системы потенциально могут тайно манипулировать выбором людей, формируя будущий рынок, где транзакции основаны на намерениях, а не на традиционных методах – «экономику, основанную на намерениях».
Исследование предполагает, что относительно доступный, но тревожный рынок цифровых обозначений намерений вскоре может повлиять на широкий спектр действий, включая покупку билетов в кино и выбор политических кандидатов.
Похоже, что по мере того, как все больше людей привыкают к взаимодействию с чат-ботами, цифровыми учителями и другими системами искусственного интеллекта, напоминающими людей (часто называемыми «антропоморфным» искусственным интеллектом), мы наблюдаем появление нового класса «влиятельных технологий».
Проще говоря, авторы исследования отмечают, что ИИ может сочетать модели онлайн-поведения пользователей с более развитой способностью понимать и прогнозировать их предпочтения. Ожидается, что эта интеграция приведет к повышению доверия и взаимопонимания между пользователями и системами искусственного интеллекта.
По словам соавтора Якуба Чаудхари, в настоящее время существует несколько инструментов искусственного интеллекта, которые могут собирать, интерпретировать, предсказывать и потенциально контролировать человеческие стратегии и цели, в конечном итоге превращая их в рыночные активы.
Согласно исследованиям, новейшие системы искусственного интеллекта, как ожидается, будут использовать модели большого языка (LLM) для изучения ритма речи пользователя, политических взглядов, выбора слов, возраста, пола, истории просмотров и даже склонности к комплиментам и поведения, направленного на благосклонность.
Эта технология будет связана с различными новыми разработками в области искусственного интеллекта, предназначенными для решения конкретных задач, таких как облегчение продажи билетов в кино или направление дискуссий в отношении определенных рекламных платформ, предприятий, политических групп и т. д.
Согласно отчету Times Of India, Джонни Пенн, один из соавторов, предупредил, что, если ее не остановить, экономика намерения может начать ценить ваши мотивы как замену традиционной валюты.
Пенн подчеркнул важность тщательной оценки потенциальных последствий рынка, направленного на эксплуатацию человеческих намерений, таких как свободные и честные выборы, беспристрастные СМИ и честная конкуренция на рынках. Он предупредил, что без должного понимания и бдительности мы можем невольно столкнуться с нежелательными результатами, к которым может привести этот рынок. Он подчеркнул, что общественная осведомленность по этому вопросу необходима для того, чтобы избежать принятия неверных решений.
Смотрите также
2024-12-30 17:12