🔴 Инвестор OpenAI и Anthropic обвинил исследователей ИИ в запугивании

🔴 Инвестор OpenAI и Anthropic обвинил исследователей ИИ в запугивании

Глава Altimeter Capital Брэд Герстнер назвал предупреждения о вымирании человечества из-за ИИ «гиперболической тактикой запугивания» и предположил, что за ними стоит политическая повестка. Так инвестор двух ведущих ИИ-лабораторий — OpenAI и Anthropic — публично выступил против исследователей, считающих нынешнюю гонку опасной.

Поводом стал уход Джейкоба Коксона из Anthropic. Он обвинил ИИ-компании в том, что те «играют нашими жизнями» в погоне за сверхинтеллектом; после его публикации опасения высказали и другие исследователи. Один из них, бывший специалист OpenAI по управлению ИИ Дэниел Кокотайло, допускает, что через один–три года модели смогут самостоятельно выполнять весь исследовательский цикл и улучшать себя. Это его прогноз, а не установленный срок.

Герстнер отвечает, что за 25 лет в Кремниевой долине не видел, чтобы до появления новой технологии безопасности уделяли столько времени и сил. По его мнению, критики игнорируют уже принятые меры и создают ложную картину безответственной гонки. При этом Altimeter вложилась не только в OpenAI и Anthropic, но также в Glean и Databricks: Герстнер спорит не как сторонний наблюдатель, а как инвестор отрасли. Это не опровергает его доводы, но объясняет его ставку в конфликте.

Стороны расходятся не в том, занимается ли отрасль безопасностью, а в том, достаточны ли нынешние меры перед возможным появлением самоулучшающихся систем. Исследователи указывают на скорость развития и тяжесть потенциальных последствий; Герстнер — на беспрецедентные усилия лабораторий. Поэтому спор о вымирании превратился в спор о доверии: отрасль просит судить её по уже вложенным усилиям, а критики — по риску, который эти усилия ещё не сняли.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором. #ИИ #OpenAI #Anthropic #БезопасностьИИ #Инвестиции #AravanaAI