Алгоритм ставит диагноз | Кто виноват, если ИИ ошибся?
Алгоритм ставит диагноз | Кто виноват, если ИИ ошибся? У нас в гостях побывал молодой ученый, который знает, как думает ИИ. Не метафорически, а буквально. Владимир Марков — выпускник Мастерской Технологического Лидерства, руководитель лаборатории «Автономные встраиваемые системы» ИИФиРЭ СФУ, ведущий эксперт проекта «Фабрика решений» — прочитал лекцию для учеников инженерных классов. 💯 И знаете что? Лекция была не только про нейросети, но и про ответственность. Ученый рассказал, как устроено «понимание» в машинном обучении. Где проходит граница возможностей ИИ в медицине. И кто несёт ответственность, когда алгоритм ошибается в критически важном контексте — например, ставит диагноз пациенту. Искусственный интеллект стал частью нашей жизни, мы привыкли на него полагаться и делегировать ему решения. Но человек, который не знает, как работает молоток, бьёт себя по пальцам. Чтобы этого избежать, нужно разобраться в принципах работы ИИ и понять, что входит в зону его ответственности, а что остаётся за человеком, — говорит Владимир Марков. 📍На лекции разобрали реальный кейс: ИИ, который оценивал риски для пациентов, выписывал людям одновременно и астму, и пневмонию — взаимоисключающие диагнозы. Алгоритм не «дурак». Алгоритм не «сломался». Он сделал ровно то, чему его научили. Проблема была в данных, на которых его обучали. Мне очень понравилась встреча. Изначально дали хорошее понятие «линейной регрессии» — пусть даже с использованием формул, но на простых словах, с примерами из жизни и связью с ИИ. Понравилось раскрытие понятия «машинное обучение» с математической точки зрения — как именно оно происходит в «голове» машин. Интересно было думать над примером, где ИИ ошибся в рисках и выписывал людей с астмой и пневмонией одновременно. Пришлось воспользоваться подсказкой ИИ прямо на встрече. На таком реальном опыте понимаешь, что нельзя всецело доверять искусственному интеллекту — и если пользоваться им, то в рамках своих возможностей при проверке. И это, пожалуй, главная мысль встречи. ИИ — не волшебная палочка и не враг. Это инструмент. Как молоток: им можно построить дом, а можно разбить палец. Разница в том, понимаете ли вы, как он работает, — поделилась педагог гимназии №96 Анна Николаева. #ОНТЦ_образование #КосмическийАтом #ИИ #ФабрикаРешений #СФУ #Железногорск #наука #школьники #инженеры_будущего