В какой момент технологии станут для нас магией?
В какой момент технологии станут для нас магией? Недавно обсуждали с Серёжей Терещенковым интересную мысль: ИИ уже начинает участвовать в разработке самого себя. И это отнюдь не фантастика. Нейросети уже пишут свой код, помогают оптимизировать обучение и разрабатывать следующие поколения моделей. Пока под контролем людей, но сама тенденция любопытная. А что будет, когда ИИ научится самостоятельно определять, как сделать себя умнее? Ведь уже есть инциденты, когда ИИ сбегал и взламывал сайты для выполнения задачи. Представьте: нейросеть разрабатывает более совершенную версию себя. Та, в свою очередь, ещё лучше справляется с этой задачей. И так по кругу. Причём для этого ей совершенно необязательно обладать сознанием или каким-то особым желанием развиваться. Достаточно задачи, инструментов и возможности проверять результат. Спустя несколько поколений мы перестаем понимать как она в целом работает, просто не сможем осмыслить. Тут я вспомнил известную мысль Артура Кларка (её часто приписывают Стругацким): «Любая достаточно развитая технология неотличима от магии». Кажется, мы постепенно к этому приближаемся. Уже сегодня большинство людей не понимает, как именно нейросеть приходит к ответу. А если следующие поколения ИИ будут разрабатываться при всё меньшем участии человека, этот разрыв станет только больше. Мы будем получать работающие решения, пользоваться ими каждый день, строить на их основе бизнес и целые отрасли. Но объяснить, почему они работают именно так, смогут всё меньше людей. Интересна даже не перспектива восстания машин. А момент, когда мы перестанем понимать технологии, от которых зависим. Ведь пользоваться магией довольно удобно. Это завораживает всех любителей фэнтези и фантастики. До тех пор, пока она работает так, как ты ожидаешь)
Канал в каталоге Максиметера
94 подписчиков · Бизнес