Глава OpenAI Сэм Альтман сказал вслух: мир должен принять, что какие-то плохие вещи буд...
Глава OpenAI Сэм Альтман сказал вслух: мир должен принять, что какие-то плохие вещи будут происходить. На наш взгляд, это не только про ИИ, но и про то, как действовать, когда гарантий нет. Что мы взяли из спора в подкасте Moonshots: 1. Ноль ошибок это неверная цель. В авиации правила написаны кровью. Цель в том, чтобы хорошего было на порядки больше. 2. Риск это не ручка, которую крутят до нуля. Это задача: ограничить права агента, проверять результат, записывать каждый шаг. 3. Ждать идеальную модель опасно. По словам инвестора Дэйва Блондена, мощности на пять лет уже забронированы, а окно, чтобы успеть, около шести месяцев. До пятницы, 23 октября, выберите одну задачу, которую агент может делать ночью, и запишите три ограничения: права, проверка, журнал. Смотреть разбор: https://youtu.be/luJkg8de-kA Читать статью: https://solaris-club.one/blog/altman-plohoe-sluchitsya-3-resheniya.html Чек-лист: https://t.me/solaris_access_bot?start=artpost_altman