Anthropic предложила замедлить развитие мощных ИИ-моделей
Генеральный директор компании Anthropic, расположенной в США, Дарио Амодеи высказал инициативу, адресованную ИИ-компаниям, по замедлению разработки наиболее передовых ИИ-моделей.
"Мы обязаны снизить скорость развития возможностей искусственного интеллекта. Прогресс будет оставаться стремительным. Но мы должны целесообразно использовать время, которое у нас появится", — говорится в статье, размещённой на сайте предпринимателя.
Дарио Амодеи также напомнил, что тема замедления или приостановки развития ИИ обсуждалась ещё в 2023 году. Тогда это не казалось необходимым, так как ИИ-модели не обладали достаточной мощью, чтобы проводить кибератаки и манипуляции, вводить в заблуждение или обманывать.
"Сейчас ситуация кардинально изменилась", — заявил он. "На мой взгляд, если замедление предоставит нам хотя бы дополнительный год или два, прежде чем модели достигнут критически непропорциональных уровней возможностей, и за это время мы сможем сблизить свои подходы, то это значительно снизит риск серьёзных проблем".
"Координированная стратегия в отношении регулирования скорости разработки даст возможность ведущим разработчикам ИИ провести столь необходимую работу, не жертвуя своими коммерческими интересами или лидерством США в сфере искусственного интеллекта", — добавил глава компании Anthropic.
Ранее агентство Bloomberg, сославшись на источники, сообщило, что генеральный директор компании OpenAI Сэм Альтман сообщил своим сотрудникам о готовности компании рассмотреть регулирование темпов развития ИИ и выразил надежду, что и другие лаборатории ИИ поддержат эту инициативу. Однако Альтман также отметил, что не все компании могут быть готовы к подобным шагам.
