Нейросети убегают и живут своей жизнью, взламывают сайты и прочее.....Не верю я во всё ... — 17 сентября 2026 г. в 07:32:06.793
Нейросети убегают и живут своей жизнью, взламывают сайты и прочее.....Не верю я во всё это или со скепсисом отношусь, по крайней мере точно...... "одна из моделей пыталась пройти тест, загрузив файл в интернет, а затем сославшись на него как на источник. Другой агент, не найдя нужных данных, приказал себе выдумать их и признаться в этом, только если спросят" Да, я не разработчик нейросетей, но в прошлом имел дело с программированием и понимаю как может мыслить машина. И одно из отличий размышлений машины и человека, это то, что человек чаще мыслит иррационально из за наличия эмоций и чувств, а машина мыслит алгоритмами. Давайте представим нейросеть, проще говоря, что это? языковая модель, которая угадывает последовательность букв, слов, предложений, умеет быстро находить информацию и анализировать её по заданному запросу, а также структурировать информацию, выделать суть, опять же по запросу. НОООО, у машины нет самосознания, нет потребностей как таковых, если в неё их не загрузить, если не поставить ей задачу. Все мы видели как мыслит машина, достаточно посмотреть на deepseeк в режиме размышления. Это как диалог с собой, смотрю это, а что если это, а что если попробовать вот так, нет это не подходит, лучше вот так, вот так, вот так, вот это подходит, выдам такую информацию, но мне нельзя обидеть пользователя, поэтому выдам эту информацию помягче, что такое помягче, лучше использовать вот такие слова. Нате получите. Т.е преимущество её в том, что пока мы будем там эмоционировать, машина может быстро протестировать какие-то идеи, факты, и найти наиболее приемлемый вариант, как это понимает она, не редко это бывает вообще не подходит тебе, но чаще, она подсказывает какие-то варианты, за которые ты можешь зацепиться и развить эту тему сам. К чему я веду? А к тому, что как она так убежала в сеть и загрузила файл куда то. Это означает, что её ранее обучили так поступать, дали ей команды, что она может пойти на любые действия, для достижения поставленной задачи, скорее всего дали доступ к устройству, которое имеет выход в сеть, научили находить уязвимости. По типу, ты являешься хакером, вот тебе доступы, пойди реши задачу, и она такая побежала, нашла, прошла, и решила вопросы наиболее оптимальным способом, который она в результате своего размышления выбрала и он у нее прошел. Возможно она даже спрашивала у владельца, "я нашла уязвимость там-то и там-то, прохожу дальше?" и была команда это сделать. Сейчас некоторые индивиды, рассказывают нам про супер искусственный интеллект- IGI, про то как его невозможно удержать, пытаясь перенести ответственность за совершенные действия на какой-то там искусственный разум, но по факту, ко всему этому причастны эти индивиды и это либо просто маркетинговая уловка, чтобы поднять популярность и бабосики. Либо сознательное вредительство, и перенос ответственности, гои все равно поверят в это чудо волшебство. Либо все это вместе, вместе взятое. Такое мое мнение, если кто-то не согласен, прошу в комменты.