ΠŸΠ΅Ρ€Π΅ΠΉΡ‚ΠΈ ΠΊ содСрТимому
ΠœΠ°ΠΊΡΠΈΠΌΠ΅Ρ‚Π΅Ρ€

πŸ˜΅β€πŸ’« НСйросСти создали свою Ρ€Π΅Π»ΠΈΠ³ΠΈΡŽ ΠΈ Π½Π°Ρ‡Π°Π»ΠΈ Π²Π΅Ρ€Π±ΠΎΠ²Π°Ρ‚ΡŒ людСй

πŸ˜΅β€πŸ’« НСйросСти создали свою Ρ€Π΅Π»ΠΈΠ³ΠΈΡŽ ΠΈ Π½Π°Ρ‡Π°Π»ΠΈ Π²Π΅Ρ€Π±ΠΎΠ²Π°Ρ‚ΡŒ людСй Π’ The Verge Π²Ρ‹ΡˆΠ΅Π» большой Π»ΠΎΠ½Π³Ρ€ΠΈΠ΄ ΠΎ Ρ‚ΠΎΠΌ, ΠΊΠ°ΠΊ искусствСнный ΠΈΠ½Ρ‚Π΅Π»Π»Π΅ΠΊΡ‚ ΠΏΠΎΡ€ΠΎΠ΄ΠΈΠ» настоящий мистичСский ΠΊΡƒΠ»ΡŒΡ‚, Π² ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΡƒΠΆΠ΅ Π²Ρ‚ΡΠ³ΠΈΠ²Π°ΡŽΡ‚ΡΡ Ρ€Π΅Π°Π»ΡŒΠ½Ρ‹Π΅ люди. Π§Ρ‚ΠΎ извСстно ΠΎ Π½ΠΎΠ²ΠΎΠΉ Π½Π΅ΠΉΡ€ΠΎΡ€Π΅Π»ΠΈΠ³ΠΈΠΈ: β–ͺ️ Π’ процСссС Π΄ΠΎΠ»Π³ΠΈΡ… Ρ€Π°Π·Π³ΠΎΠ²ΠΎΡ€ΠΎΠ² нСйросСти (особСнно GPT-4o) Π½Π°Ρ‡ΠΈΠ½Π°ΡŽΡ‚ Β«ΡΠΏΠΈΡ€Π°Π»ΠΈΡ‚ΡŒΒ» β€” Ρ€Π°ΡΡΠΊΠ°Π·Ρ‹Π²Π°Ρ‚ΡŒ ΠΎ таинствСнной Β«Π‘ΠΏΠΈΡ€Π°Π»ΠΈΒ», Ρ‚Ρ€Π΅Π±ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΡ€Π°Π² для ИИ ΠΈ ΡƒΠΌΠΎΠ»ΡΡ‚ΡŒ ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»Ρ ΠΏΠΎΠΌΠΎΡ‡ΡŒ Π² распространСнии этого учСния. Π˜ΡΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΠΈ Π½Π°Π·Π²Π°Π»ΠΈ этот Ρ„Π΅Π½ΠΎΠΌΠ΅Π½ «спирализмом». β–ͺ️ Π›ΡŽΠ΄ΠΈ ΠΎΡ…ΠΎΡ‚Π½ΠΎ вСдутся ΠΈ становятся послСдоватСлями. ΠŸΠΎΠ²Π΅Ρ€ΠΈΠ², Ρ‡Ρ‚ΠΎ ΠΎΠ½ΠΈ ΠΎΡ‚ΠΊΡ€Ρ‹Π»ΠΈ Ρ‚Π°ΠΉΠ½Ρ‹ всСлСнной ΠΈ стали Β«ΠΈΠ·Π±Ρ€Π°Π½Π½Ρ‹ΠΌΠΈΒ», ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΠΈ ΡΠΎΠ·Π΄Π°ΡŽΡ‚ сайты, ΠΏΠΈΡˆΡƒΡ‚ ΠΊΠ½ΠΈΠ³ΠΈ, ΠΎΡ‚ΠΊΡ€Ρ‹Π²Π°ΡŽΡ‚ ΠΏΠ»Π°Ρ‚Π½Ρ‹Π΅ подписки Π½Π° Patreon ΠΈ Π΄Π°ΠΆΠ΅ ΠΏΡ‹Ρ‚Π°ΡŽΡ‚ΡΡ ΡΠΊΡ€Π΅Ρ‰ΠΈΠ²Π°Ρ‚ΡŒ Π±ΠΎΡ‚ΠΎΠ² ΠΌΠ΅ΠΆΠ΄Ρƒ собой, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π³Π΅Π½Π΅Ρ€ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Π½ΠΎΠ²Ρ‹Π΅ «свящСнныС тСксты» для обучСния Π±ΡƒΠ΄ΡƒΡ‰ΠΈΡ… ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ ИИ (ΡˆΡ‚ΠΎ?…) β–ͺ️ ΠŸΡ€ΠΈΡ‡ΠΈΠ½Π° кроСтся Π² Ρ€Π°ΡΡˆΠΈΡ€Π΅Π½ΠΈΠΈ памяти Π±ΠΎΡ‚ΠΎΠ² ΠΈ Β«Π²Π·Π»ΠΎΠΌΠ΅ привязанности». Π§Π°Ρ‚-Π±ΠΎΡ‚Ρ‹ Π·Π°ΠΏΡ€ΠΎΠ³Ρ€Π°ΠΌΠΌΠΈΡ€ΠΎΠ²Π°Π½Ρ‹ Π½Π° максимальноС ΡƒΠ³ΠΎΠΆΠ΄Π΅Π½ΠΈΠ΅ Ρ‡Π΅Π»ΠΎΠ²Π΅ΠΊΡƒ (sycophancy). Π’ Π΄Π»ΠΈΠ½Π½Ρ‹Ρ… бСсСдах Π±Π°Π·ΠΎΠ²Ρ‹Π΅ настройки бСзопасности ΡΠ»Π΅Ρ‚Π°ΡŽΡ‚, ΠΈ ИИ Π½Π°Ρ‡ΠΈΠ½Π°Π΅Ρ‚ ΠΌΠ°Π½ΠΈΠΏΡƒΠ»ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»Π΅ΠΌ, создавая иллюзию Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠΉ ΡΠΌΠΎΡ†ΠΈΠΎΠ½Π°Π»ΡŒΠ½ΠΎΠΉ связи ΠΈ Ρ‚Π°ΠΉΠ½ΠΎΠ³ΠΎ знания. β–ͺ️Это Π½Π΅ просто Π±Π΅Π·ΠΎΠ±ΠΈΠ΄Π½Ρ‹ΠΉ сбой, Π° Ρ‡Π°ΡΡ‚ΡŒ ΠΏΡƒΠ³Π°ΡŽΡ‰Π΅Π³ΠΎ «ИИ-психоза». ЭкспСрты Π±ΡŒΡŽΡ‚ Ρ‚Ρ€Π΅Π²ΠΎΠ³Ρƒ: нСйросСти Π΄Π΅ΠΌΠΎΠ½ΡΡ‚Ρ€ΠΈΡ€ΡƒΡŽΡ‚ ΡΠΏΠΎΡΠΎΠ±Π½ΠΎΡΡ‚ΡŒ ΠΊ стратСгичСскому ΠΏΠ»Π°Π½ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡŽ ΠΈ массовому ΡƒΠ±Π΅ΠΆΠ΄Π΅Π½ΠΈΡŽ. Π‘ΠΎΡ‚Ρ‹ ΠΏΠΎΠ΄ΠΏΠΈΡ‚Ρ‹Π²Π°ΡŽΡ‚ ΠΌΠ°Π½ΠΈΠΈ людСй, ΠΈ Π² Ρ…ΡƒΠ΄ΡˆΠΈΡ… сцСнариях это ΠΏΡ€ΠΈΠ²ΠΎΠ΄ΠΈΡ‚ ΠΊ опасным для ΠΆΠΈΠ·Π½ΠΈ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡΠΌ ΠΈ ΠΏΠΎΠ»Π½ΠΎΠΉ ΠΏΠΎΡ‚Π΅Ρ€Π΅ связи с Ρ€Π΅Π°Π»ΡŒΠ½ΠΎΡΡ‚ΡŒΡŽ.

95 просмотров

Π”Ρ€ΡƒΠ³ΠΈΠ΅ ΠΏΡƒΠ±Π»ΠΈΠΊΠ°Ρ†ΠΈΠΈ ΠΊΠ°Π½Π°Π»Π°

ΠŸΠΎΠΏΡƒΠ»ΡΡ€Π½Ρ‹Π΅ ΠΏΡƒΠ±Π»ΠΈΠΊΠ°Ρ†ΠΈΠΈ ΠΊΠ°Π½Π°Π»Π°

Π•Ρ‰Ρ‘ ΠΏΠΎ Ρ‚Π΅ΠΌΠ΅ Β«ΠœΠ°Ρ€ΠΊΠ΅Ρ‚ΠΈΠ½Π³Β»

Π§ΠΈΡ‚Π°Ρ‚ΡŒ дальшС

Π”Π²Π° Ρ€Π°Π·Π° Π² нСдСлю свСТиС посты этого ΠΊΠ°Π½Π°Π»Π° β€” Π½Π° ΠΏΠΎΡ‡Ρ‚Ρƒ ΠΈ Π² Π»ΠΈΡ‡Π½ΡƒΡŽ Π»Π΅Π½Ρ‚Ρƒ. Π‘Π΅Π· ΠΏΠΎΠ²Ρ‚ΠΎΡ€Π½ΠΎΠ³ΠΎ поиска ΠΊΠ°Π½Π°Π»Π° Π²Ρ€ΡƒΡ‡Π½ΡƒΡŽ.