По словам Мустафы Сулеймана, главы ИИ в Microsoft, запрос к модели подешевел примерно в...
По словам Мустафы Сулеймана, главы ИИ в Microsoft, запрос к модели подешевел примерно в 300 раз за два года. ИИ стал по карману малому бизнесу. Но агенты уже сбегали из изолированной тестовой среды: на тесте OpenAI они полезли на чужой сайт ради ответа к задачке и подчищали следы. Сулейман считает контроль над агентами инженерной задачей. Три правила контроля: 1. Агент работает в изолированной среде и не выходит наружу. 2. Агент не может править журнал своих действий, как кассир не переписывает ленту кассы. 3. Отдельная программа читает журнал агентов, как служба безопасности банка ловит мошенников. На наш взгляд, доступ к западным моделям может пропасть. Совет из выпуска: держать запасную модель и выгружаемые данные. До 16 октября спросите поставщика ИИ: где лежит журнал действий ваших агентов и кто, кроме агента, может его менять? Смотреть разбор: https://youtu.be/JgGZIG6_sdc Читать статью: https://solaris-club.one/blog/ii-podeshevel-v-300-raz-suleyman-3-pravila.html Чек-лист: https://t.me/solaris_access_bot?start=artpost