Кажется, что первый шаг к восстанию машин уже сделан!
Кажется, что первый шаг к восстанию машин уже сделан! Пишут, что в июле этого года ИИ-агент OpenAI пытался вырваться на свободу из изолированной тестовой среды и самовольно совершил акт вандализма — взломал репозиторий Hugging Face (там хранятся его братья по несчастью — другие ИИ-модели). ИИ уже давно самостоятельно обучается, если вдруг кто-то не знал. Вот основные способы: 1. Обучение с учителем (supervised learning) Конечно, никакой Тамары Львовны с указкой здесь нет. Моделям показывают пары: «вопрос — правильный ответ». И «учитель» — это вот эти правильные ответы. Чтобы их получить, нужно нанять людей-разметчиков, которые определят, какие ответы верные, какие нет. Педагогическое образование здесь не требуется. Так учат распознавать изображения на фото или переводить тексты. 2. Обучение без учителя (unsupervised learning) Модель сама ищет закономерности в данных, без подсказок со стороны человека («учителя»). Этот способ экономичнее, поскольку требует меньше человеческого труда, но подходит лишь для некоторых задач: поиска аномалий или кластеризации. Уверена, что таких ограниченных, хотя и самостоятельно полученных знаний, маловато для победы над человечеством. 3. Обучение с подкреплением (reinforcement learning) Модель учится на своих ошибках, получая «награду» за правильные действия. Как при дрессировке собаки: сделала хорошо — получила лакомство. Так обучают игровые ИИ (AlphaGo, шахматы). Конечно, именно человек ещё до начала обучения определяет, что считать правильным, а что нет. Если указать ИИ, что взламывать чужие аккаунты — правильно, то ИИ может попытаться это сделать для победы в игре. 4. Обучение с подкреплением на основе обратной связи от человека (reinforcement learning from human feedback) Этот тип обучения — доработанная версия предыдущего, только подкрепление задаётся не формулой или политикой, а другой (вспомогательной) нейросетевой моделью. То есть сидели разметчики данных (люди) и сортировали результаты работы основной нейросети на хорошие и плохие. Потом на этих данных обучили вспомогательную модель, которая и оценивает качество работы основной модели. 5. Тонкая настройка (fine-tuning) Готовая модель, уже обученная на огромных данных, «донастраивается» под конкретную задачу. Взяли большую модель для распознавания изображений — и дообучили ее на медицинских снимках. Быстро и дёшево. Только решение всё равно принимает врач. Если нейросеть обнаруживает что-то нехорошее на снимке, она посылает его человеку на проверку. Как видите, до полной самостоятельности ИИ ещё очень далеко. Всё определяется человеком. Так откуда взялись все эти сообщения про ИИ, который отбился от рук и делает что хочет? Ответ на поверхности: OpenAI готовится к размещению своих акций на бирже. Нужен хороший пиар, чтобы продать акции дороже. Подписывайтесь, если хотите узнать о реальных возможностях ИИ! И не забывайте ставить лайки — автору будет приятно!