Encode, некоммерческая группа, ориентированная на молодежь и пропагандирующая создание этического искусственного интеллекта, недавно представила подтверждающий документ в Окружной суд США Северного округа Калифорнии с просьбой не допустить превращения OpenAI в коммерческую организацию.
Документ, представленный в качестве доказательства по судебному делу Илона Маска, указывает на потенциальный риск для общественной безопасности и может ослабить приверженность OpenAI созданию систем искусственного интеллекта, которые отдают приоритет благополучию человека.
Целью создания OpenAI, созданной в 2015 году, было обеспечение того, чтобы искусственный интеллект служил на благо всего человечества. Но из-за значительных текущих расходов в 2019 году компания перешла на гибридную модель, что позволило осуществлять внешние инвестиции, сохраняя при этом некоторые элементы управления некоммерческими организациями.
В настоящее время компания, занимающаяся искусственным интеллектом, планирует преобразовать свое коммерческое подразделение в Корпорацию общественного блага штата Делавэр (PBC). Эта новая структура направлена на то, чтобы совместить прибыль акционеров с общественным благосостоянием. Однако этот переход вызвал серьезные опасения со стороны таких организаций, как Encode, которые опасаются, что прибыль будет поставлена выше безопасности.
Трансформация OpenAI представляет собой серьезную угрозу надежным мерам безопасности, установленным для защиты широкой общественности, поскольку может отвлечь внимание от этих важных аспектов в сторону получения прибыли. Будучи некоммерческой организацией, OpenAI действовала с основной целью служить общественным интересам и уделять приоритетное внимание безопасности; однако переход к коммерческому статусу потенциально может изменить этот фокус.
Согласно этому, это подразумевает снижение ответственности и вызывает серьезные этические проблемы в отношении искусственного интеллекта.
Специалисты по искусственному интеллекту выразили обеспокоенность по поводу структурной трансформации OpenAI. Джеффри Хинтон, лауреат Нобелевской премии по физике, заявил, что такое изменение может означать тревожный акцент на прибыль в ущерб безопасности.
Профессор Стюарт Рассел из Калифорнийского университета в Беркли согласился с точкой зрения Хинтона, подчеркнув важность некоммерческого статуса OpenAI для предотвращения потенциальных опасностей в развитии ИИ. По его словам, «отвратительно считать, что выживание человечества должно зависеть исключительно от финансовых прибылей и потерь инвесторов.
Илон Маск, один из первых сторонников OpenAI, публично выразил несогласие с предложенными изменениями. В ноябре прошлого года он инициировал судебный иск против OpenAI, утверждая, что они отклонились от своей первоначальной благотворительной цели.
Этот человек утверждал, что преобразование OpenAI в коммерческую компанию уменьшит ресурсы, доступные другим стартапам в области ИИ, и потенциально установит монополию в области инноваций в области ИИ. Илон Маск выразил свое несогласие с этим изменением в социальных сетях, охарактеризовав его как сдвиг в сторону закрытых, ориентированных на прибыль операций, что противоречит его первоначальным некоммерческим целям с открытым исходным кодом. По сути, он написал в Твиттере: «Первоначально OpenAI была основана с идеалами открытого исходного кода и некоммерческих организаций, но с тех пор превратилась в организацию с закрытым исходным кодом, ориентированную на прибыль.
Encode также подчеркивает, что изменения в OpenAI происходят в решающий момент в управлении ИИ. Учитывая быстрое развитие общего искусственного интеллекта (AGI), в докладе подчеркивается потенциальная опасность разрешения коммерческим организациям использовать столь грозные технологии.
Ожидается, что общий искусственный интеллект (AGI) приведет к существенным изменениям в нашем обществе, и Encode выступает за то, чтобы его главной заботой было благополучие общества по мере его развития. Предварительное слушание по судебному запрету назначено перед окружным судьей США Ивонн Гонсалес Роджерс 14 января 2025 года.
Смотрите также
2025-01-06 22:30