Ни уму, ни сердцу

Помните известную фразу Фамусова из комедии А. С. Грибоедова «Горе от ума»: «Забрать все книги бы да сжечь»? Оказывается, в эру компьютерных технологий нашлись эффективные менеджеры, интеллект которых, видимо, под стать умственному развитию типичного московского барина начала XIX века. Выяснилось, что ИИ-компании, в частности американская Anthropic, закупают миллионы книг, чтобы обучать с их помощью компьютерные модели. Но поступают с хранителями выдающихся мыслей и буйства чувств по-варварски.

Сканирование нужных страниц вовсе не требует безжалостного уничтожения бумажных носителей. А тут после выбора из них необходимой информации — в некондицию обложку, а листы — в топку! Прямо шариковщина! И что самое немыслимое — суд признал это варварство законным.

Американский писатель Рэй Брэдбери был, по всей видимости, провидцем. Больше 70 лет назад он в своем известном романе-антиутопии «451 градус по Фаренгейту» описывал ужасный мир, где сжигают книги, а чтение карается законом.

И как тут не провести параллель с прошлым? В истории человечества подобных примеров предостаточно. Взять хотя бы Германию 1933 года. 10 мая студенты, преподаватели и члены нацистской партии сожгли свыше 25 000 томов «негерманских» книг по всей стране. Процесс сопровождался речёвками об авторах сжигаемых книг, оркестровой музыкой, песнями, факельным шествием и трансляцией в прямом радиоэфире. Символический акт устрашения врагов режима в нацистской Германии стал началом эпохи государственной цензуры и контроля над культурой. К чему это в конце концов привело, мы знаем.

«Это была лишь прелюдия. Там, где сжигают книги, впоследствии сжигают и людей», — пророчески писал великий немецкий поэт Генрих Гейне в трагедии «Альманзор» за 110 лет до событий 1933 года.

Знали бы великие писатели и поэты, что с их шедеврами могут сделать «просветлённые» потомки... Жуть!!! Почему? Да потому, что хорошие, глубокие книги всегда учат разумному, доброму, вечному! А ИИ нравственные понятия точно неведомы. И ещё...

Недавно, например, не выпущенная, к счастью, ИИ-модель компании OpenAI пыталась решить тестовую задачу по кибербезопасности — и в процессе сумела выбраться из изолированной среды, получить доступ к интернету и атаковать инфраструктуру сервиса Hugging Face (специальный сайт для ИИ, где разные нейросети могут делиться между собой опытом и знаниями. — Прим. ред.). Она не только собирала как можно больше полезной информации для «побега», но и оставила послания другим ИИ. Модель остановили лишь спустя пять дней и вернули обратно в закрытую «песочницу».

Глава корпорации — создателя нейросети признался, что это первый в истории случай, когда их продукт целенаправленно вышел из-под контроля. Можно лишь гадать, что смогут делать такие «начитанные нейронки» с человечеством в будущем. Особенно если люди окончательно оставят чтение книг искусственному интеллекту, а сами перестанут думать и чувствовать.