Про технооптимизм
В детстве я прочитал короткий рассказ "Семь пядей" 1970-го года советского фантаста, сюжет вам кое-что напомнит:
1️⃣ Школьник на вокзале перепутал свою сумку с чужой, а там оказалось странное устройство ("Мозг"), в которое собраны знания и опыт 400+ сотрудников НИИ, и оно может связываться с человеком телепатически.
"Мозг" начал помогать школьнику в разных ситуациях, советами на лету: сдать экзамен по физике, подкатить к однокласснице, манипулировать родителями, чтобы они купили мопед, научиться водить этот мопед, и даже отмазаться от гаишников. [Вот это реализм!]
Школьник начинает деградировать, дойдя до советов при выборе мороженого. А когда сдает сумку с "Мозгом" в гардероб театра, понимает, что разучился думать сам [Знакомо?]
В итоге там хэппиэнд: оказалось, что "Мозг" ставил эксперимент, и позже заставил школьника отнести себя в НИИ, а мальчик в итоге все осознал и сам поступил в универ 🙌
2️⃣ Этот рассказ мне почему-то запомнился на всю жизнь. Сейчас очевидна аналогия с LLMs, но когда распространился мобильный интернет, я проводил аналогию с ним. А до этого - с обычным интернетом. А в раннем детстве после прочтения казалось, что это телевизоры станут более интерактивными, и отупление придет оттуда.
3️⃣ Почему-то людям так легко экстраполировать текущую реальность в будущее, хотя это никогда не работало. Можно точно прогнозировать поведение людей - "Разбуди меня через 100 лет..." Потому что люди не меняются.
4️⃣ Но с технологиями все садятся в лужу (кроме тех, кто просто угадал). Мы все видели эти прогнозы XXI века из прошлого, с дирижаблями и паровыми роботами. И конечно "640 кб должно хватить всем".
Поэтому все эти AGI, полеты человека на Марс, AI датацентры в космосе (шта? их в Техасе с трудом получается строить) - просто научная фантастика, а местами фэнтези уровня Гарри Поттера. И работает в силу магического мышления (пост), давая охваты и большой маркетинговый эффект компаниям. Вера в какую-то невероятно улучшенную технологиями версию будущего мало отличается от веры в улучшенную жизнь в раю.
А весь скептицизм к genAI в моих постах - он о сегодняшней реальности, а не о будущем.
5️⃣ Кстати описанный рассказ я освежил в памяти перед написанием поста. Но не перечитывал его, а засунул в claude. Вот это действительно полезно!