Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

VIKING

Импринт Penguin Random House LLC.

1745 Broadway, New York, NY 10019.

penguinrandomhouse.com

Copyright © 2025 by Кристофер Саммерфилд

Penguin Random House ценит и поддерживает авторское право. Авторское право стимулирует творчество, поощряет многообразие мнений, способствует свободе слова и формирует яркую культуру. Благодарим вас за покупку авторизованного издания этой книги и за соблюдение законов об авторском праве — за то, что вы не воспроизводите, не сканируете и не распространяете никакую ее часть ни в каком виде без разрешения. Вы поддерживаете писателей и позволяете Penguin Random House продолжать издавать книги для каждого читателя. Обратите внимание, что никакая часть этой книги не может быть использована или воспроизведена каким-либо образом в целях обучения систем или моделей искусственного интеллекта.

VIKING является зарегистрированным товарным знаком Penguin Random House LLC.

Дизайн обложки: Дэвид Литман

Адаптация макета для электронной книги: Эстель Малмед

ISBN (твердый переплет)  978059383171

ISBN (электронная книга)  9780593831724

Впервые опубликовано в твердом переплете в Великобритании издательством Viking, входящим в группу компаний Penguin Random House (Penguin Random House Ltd., Лондон), в 2025 году

Первое издание в США выпущено издательством Viking в 2025 году

Уполномоченным представителем в ЕС по вопросам безопасности и соответствия продукции требованиям является Penguin Random House Ireland, Morrison Chambers, 32 Nassau Street, Dublin D02 YH68, Ireland, https://eu-contact.penguin.ie.

pid_prh_7.1a_150522136_c0_r0

Содержание.

Посвящение

Введение

Часть первая. Как мы к этому пришли?

1. Восемь миллиардов разумов

2. Шахматы или фигурное катание?

3. Универсальная онтология

4. Рождение нейросети

5. Рассказы о неожиданном

6. Возникновение мышления

Часть вторая. Что такое языковая модель?

7. Сила слов

8. Знамения времени

9. Смысл и бессмыслица

10. В компании слов

11. Карты смыслов

12. Предсказание слов

13. Роботы под прикрытием

14. Языковые модели как лингвистические теории

Часть третья. Действительно ли мыслят языковые модели?

15. Искусственная осознанность

16. Интенциональная установка

17. Осторожно, разрыв

18. Редукционистская критика

19. Утка или попугай?

20. Языковые модели, быстрые и медленные

21. Эмерджентное познание

22. Национальная библиотека Таиланда

Часть четвертая. Что должна говорить языковая модель?

23. Багровый шестигранник

24. Безопасная игра

25. Притворяйся, пока не получится

26. Игра в языковые игры

27. «WokeGPT»

28. Перлокутивные акты

29. Переход на личное

30. Демократизация реальности

Часть пятая. На что способна языковая модель?

31. Только представьте

32. Автопропаганда ИИ

33. Опасности персонализации

34. Модель с планом

35. Мысли вслух

36. Использование инструментов

37. Интернет-серфинг

38. Инструментальный разрыв

Часть шестая. Мы все обречены?

39. Mêlée à Trois

40. Убийцы естественного языка

41. Выход из-под контроля

42. Мгновенный крах интеллекта

43. Наше технологическое будущее

Послесловие

Благодарности

Библиография

Указатель

Об авторе

_150522136_

Моему отцу, который любит конструировать роботов.

Введение.

Компьютерные системы с так называемым общим искусственным интеллектом — то есть машины, способные решать дифференциальные уравнения и одновременно складывать рубашку, — вот уже полвека маячат на горизонте.

В 1970 году журнал Life взял интервью у исследователя искусственного интеллекта по имени Марвин Минский. В мире компьютерных наук Минский — легенда. За год до этого он получил премию Тьюринга, которая в этой области является аналогом Нобелевской. А еще годом ранее, в 1968-м, он удостоился еще более лестной почести. Режиссер Стэнли Кубрик, бывший в то время самым желанным гостем на любом званом ужине в Голливуде, только что закончил съемки своего шедевра «2001 год: Космическая одиссея» и в его честь назвал одного из вымышленных астронавтов — Виктора Каминского.

На вопрос о будущем ИИ Минский пророчествовал: «Через три-восемь лет у нас появится машина с общим интеллектом на уровне обычного человека. Я имею в виду машину, которая сможет читать Шекспира, смазывать детали автомобиля, плести офисные интриги, шутить и драться».

Перенесемся в 2021 год. Исследовательская компания в области ИИ OpenAI только что разработала языковую модель GPT-3, которая была способна отвечать практически на любой запрос правдоподобным, похожим на человеческий текстом. Сооснователь компании Сэм Альтман дал интервью для удостоенного наград подкаста New York Times The Ezra Klein Show. Окрыленный поразительным успехом GPT-3, превзошедшим даже его привычный техноутопизм, Альтман предсказал: «Думаю, через десять лет у нас появятся чат-боты, которые, по сути, будут работать на уровне эксперта в любой области, какую вы ни пожелаете. Так что вы сможете спросить квалифицированного врача, опытного учителя или высококлассного юриста о чем угодно и поручить этим системам выполнить за вас нужную работу».

Минский ошибся. В 1978 году, когда по его самым пессимистичным прогнозам должен был появиться общий искусственный интеллект, у нас не было и близко ничего похожего на человекоподобный ИИ. В тот самый год Дуглас Адамс выпустил свою классическую радиокомедию на Би-би-си «Автостопом по галактике», в которой Путеводитель — неисправимо саркастичный комментатор устройства Вселенной — едко замечает, что земляне конца XX века настолько отстали в технологическом развитии, что «до сих пор считают электронные часы довольно-таки удачной штукой». Надвинулись 1980-е годы, но ни компьютерных лицедеев, ни роботов-автомехаников, о которых мечтал Минский, так и не появилось — лишь часы на батарейках с ЖК-экраном. Конечно, не способствовало делу и то, что список Минского выглядит довольно эксцентрично. Непонятно, почему он решил, что умение постоять за себя в драке является необходимым условием общего интеллекта.

А вот Альтман, возможно, окажется прав.

Возможно, вы, как и я, выросли на классическом мультфильме Looney Tunes «Дорожный бегун». Дорожный бегун, неправдоподобно атлетичная кукушка, постоянно убегает по пустыне от своего изголодавшегося заклятого врага — Койота Вайли. В развязке каждой погони Дорожному бегуну каким-то образом удается заманить незадачливого койота за край обрыва. Когда это происходит, Вайли на несколько секунд зависает в воздухе, все еще бешено перебирая лапами, преодолевая гравитацию ровно на столько времени, сколько нужно, чтобы осознать неизбежность падения на дно каньона.

Я пишу эту книгу потому, что мы — все, кто живет в 2024 году, — только что сорвались с этого обрыва. Подобно испуганным койотам, мы все еще находимся в состоянии зависания: наши ноги бешено перебирают воздух, но опоры под ними уже нет, и к нам постепенно приходит осознание, что пути назад тоже нет. Все, что последует дальше, произойдет очень быстро и, вполне возможно, выйдет из-под нашего контроля. И если нам крупно не повезет, все это может закончиться