🤖 #Безопасность
🤖 #Безопасность 🛡️ Стартап Safeworld привлёк $12M на проверку безопасности роботов с ИИ Команда исследователей из Carnegie Mellon University во главе с доктором Дином Джао запустила стартап Safeworld. Компания вышла из скрытого режима с посевным раундом на $12 миллионов — среди инвесторов a16z Speedrun и Shine Capital. Проблема, которую решают основатели: генеративный ИИ даёт роботам гибкость, но делает их поведение непредсказуемым. Классические алгоритмы безопасности здесь не работают — нужны новые методы оценки рисков. Safeworld строит симуляции, в которых цифровые копии людей и роботов разыгрывают тысячи сценариев: от слепых поворотов на заводе до падения человека с коробкой. Всё это позволяет проверить, как реальная управляющая программа робота отреагирует на нештатную ситуацию. Партнёром стартапа уже стала Gritt Robotics — разработчик ИИ-мозга для роботов, устанавливающих солнечные панели. Их CTO отмечает, что формально доказать безопасность математикой невозможно, только эмпирически. А с учётом разнообразия людей (рост, одежда, позы) симуляция — единственный практичный путь. Пока Safeworld выбирает между платформой для внешних пользователей и моделью сервиса. Но Джао уверен: «Мы станем первой прибыльной компанией в этой нише — любой, кто захочет развернуть робота, будет вынужден платить за верификацию безопасности». #УчиДрон