Как исследователя, имеющего опыт работы в области искусственного интеллекта и протоколов безопасности, я считаю, что опасения Уильяма Сондерса вызывают глубокую тревогу. Его сравнение текущей траектории OpenAI с траекторией Титаника не является преувеличением. Потенциальные риски, связанные с развитием ОИИ, огромны и требуют осторожного и методичного подхода.
В недавнем интервью подкаста Уильям Сондерс поделился причинами своего ухода с должности сотрудника службы безопасности в OpenAI.
Он выразил опасения по поводу стратегии корпорации по развитию искусственного интеллекта, предупредив, что она отражает злополучное путешествие «Титаника» и потенциально ведет к опасным водам.
Сондерс провел три года в качестве члена суперкоманды OpenAI, выражая свое видение целей организации. Он подчеркнул их внимание к развитию общего искусственного интеллекта (AGI), а также планы по запуску платных услуг.
Во время интервью он провел аналогию, проведя параллели между нынешней траекторией OpenAI и известными историческими событиями, такими как космическая миссия «Аполлон» и строительство «Титаника».
Мне действительно не хотелось работать на «Титанике искусственного интеллекта», поэтому я уволился
Уильям Сондерс
Сондерс выразил обеспокоенность тем, что OpenAI уделяет больше внимания коммерческим достижениям и выпуску продуктов, а не решению важных вопросов безопасности.
Он также обратил внимание на риски, связанные с развитием ИИ, с точки зрения Сондерса. Катастрофический инцидент в разработке ИИ может принять форму модели, которая инициирует массовые кибератаки, изменяет общественные настроения или способствует производству биологического оружия.
Сондерс призвал не откладывать внедрение продвинутых языковых моделей, подчеркнув, что мы ограниченно понимаем их поведение. Он добавил, что контроль и прогнозирование действий сложных систем искусственного интеллекта в настоящее время остается проблемой.
Смотрите также
2024-07-12 04:52