Компания Anthropic (разработчик Claude), один из лидеров в сфере разработки искусственного интеллекта и один из ключевых игроков на рынке ИИ-технологий, выступил с неожиданным призывом к отрасли. В своём официальном блоге сооснователь компании Джек Кларк опубликовал заявление, призывающее к временной приостановке разработки новых моделей искусственного интеллекта. По его мнению, текущие темпы развития несут в себе потенциальные риски для человечества.
Угроза человечеству: взгляд изнутри ИИ-бума
Заявление Anthropic прозвучало в период беспрецедентного инвестиционного бума в сфере искусственного интеллекта. Джек Кларк подчеркивает, что современные ИИ-модели достигли такого уровня сложности, когда их дальнейшее бесконтрольное развитие может представлять серьезную угрозу. «Если системы смогут самостоятельно создавать свои «потомков», вопросы безопасности, мониторинга и контроля их поведения станут гораздо более критичными, чем сейчас», — заявил сооснователь компании.
Параллели с ядерным сдерживанием и уникальные вызовы
Anthropic проводит аналогию между необходимостью регулирования развития ИИ и международным контролем над ядерным оружием. Однако, компания признает, что существуют существенные различия. «Скрыть процесс обучения новой ИИ-модели значительно проще, чем строительство ракетной шахты», — отмечают представители стартапа, подчеркивая сложность контроля в этой сфере.
Открытый диалог: призыв к сотрудничеству
Стартап выражает готовность выступить инициатором широких дискуссий по этому вопросу. Anthropic планирует привлечь к диалогу политиков, исследователей и другие технологические компании, чтобы совместно разработать механизмы регулирования и обеспечения безопасного развития искусственного интеллекта.
Источник: bloomberg.com
Фото: rbk.ru

