Исследователь Anthropic предупредил о рисках суперинтеллекта
Исследователь Anthropic предупредил о рисках суперинтеллекта Один из сотрудников Anthropic на этой неделе ушёл из компании, заявив в посте на X, что Anthropic «гонится за самоулучшающимся суперинтеллектом и ставит на кон наши жизни». В предупреждении соучаствовал даже лидер по выравниванию моделей внутри компании, не опровергнув сообщение. Это совпало с сообщениями о подготовке Anthropic к IPO, что добавляет контекста тревоге. В подкасте TechCrunch Equity ведущие обсуждают, как это отражает гонку индустрии ИИ к всё более мощным системам. Кроме того, в выпуске разбирают, почему Apple сделала ставку на ИИ в аппаратных новинках и как $2 млрд инвестиций в стартап Cognition показывают веру венчурных фондов в потенциал ИИ для программирования. Для вас это значит: вопросы безопасности ИИ выходят на первый план именно в момент масштабного роста компаний.