Anthropic выпустила в широкий доступ свою самую мощную модель ИИ — Claude Fable 5. Несм...
Anthropic выпустила в широкий доступ свою самую мощную модель ИИ — Claude Fable 5. Несмотря на заявленные глубокие познания в биологии, модель отказывается отвечать на простые вопросы из этой области, например, объяснить, что такое митохондрии, прионы или мРНК-вакцины. На такие запросы отвечает предыдущая флагманская модель Opus 4.8. В Anthropic объяснили, что строгие ограничения — намеренная мера безопасности. Компания опасается, что новая модель может быть использована для создания биологического оружия. Чтобы избежать рисков, фильтры настроены чрезмерно консервативно: они блокируют большинство запросов, даже безобидных. Anthropic признаёт, что это компромисс. В будущем компания планирует предоставлять биологам доступ к моделям класса Mythos без фильтров для ускорения научных исследований и разработки лекарств.