Классный журнал

Александр
Рохлин

Божественная ошибка профессора фон Хуббе

Сейчас четыре-тридцать утра. До рассвета еще несколько часов, и, когда этот рассвет наступит, он ровным счетом ничего не изменит, ибо в наших краях день от ночи зимой отличается так же невыразительно, как восточнопрусская селедка от гамбургской. Я, бедный газетный репортер, пишу сии заметки при свете единственной свечи. Честно признаюсь, что нахожусь в затруднительном положении. Дело в том, что мне поручено расследовать дело некоего Греппеля и рассказать о новом явлении, которое необыкновенно волнует и будоражит общество последние несколько лет. О котором говорят, что оно изменит будущее, что оно, собственно, само будущее и есть, а главное, что при окончательном вступлении этого явления в свои права песенка человечества в его виде, известном последние десять тысяч лет, спета. Мы себя изжили и досматриваем последние рассветы.

В деле вышеозначенного Греппеля, о котором мы должны узнать из этого повествования шокирующие подробности, участвуют несколько весьма уважаемых господ, чьи имена я не имею намерения скрывать. 

Первое место по праву принадлежит г. Георгу Вильгельму Фридриху Гегелю. Ибо его авторству приписывают известный постулат о количестве, переходящем в качество при достижении накопления количественных изменений определенного предела.

Вторым известным и уважаемым лицом по «делу Греппеля» проходит Эрнст Теодор Вильгельм Амадей Гофман. Здесь все отчаянно сложно. Меня особенно пугает, что этот господин из Кёнигсберга, известный не только умножением своих имен, но и множественностью жизней, где днем он скучающий клерк, а ночью — поэт и мистик, он же Иоганн Крейслер, он же автор Ундины, крошки Цахеса, жуткого маньяка Песочника и собственно Греппеля. И этот факт множественности меня пугает тем, что я и сам веду некий подобный образ жизни. Днем я жалкий клерк, газетный репортеришка, а ночью — страшно вымолвить… Но об этом позже.

Наконец, третий герой в «греппелевском» списке, не по значимости, а скорее по объединяющему положению для всех прочих, — это профессор Карл фон Хуббе из Москвы. И я немедленно начну пересказывать нашу с ним встречу, случившуюся буквально несколько дней назад на квартире профессора в присутствии кошки профессора, у которой по причине неизлечимой болезни вместо обычного позвоночника — железный каркас на тонких и прочных медных шарнирах. Отчего кошка не прыгает, не бегает, не вертится как обычное существо ее биологического вида, а ведет себя подозрительно похоже на человека в муках и страдании. Вы бы видели ее глаза. Ничего кошачьего. Еще в квартире профессора проживает жена профессора, о ней я упомянул после кошки не по причине меньшей значимости, а скорее оттого, что ничего не могу сказать о ней определенного. Кроме одного — она из рода принцесс Иссык-Кульского княжества. Темная история — ученый Хуббе встретил ее во время путешествия по Средней Азии, она вышла к нему прямо из воды священного озера с джунгарской розой в руках. И Хуббе, этот анахорет, затворник, сумрачная, шепелявая и слегка заикающаяся личность, человек, сторонящийся светского общества, поклоняющийся исключительно науке математике, не выдержал встречи с красотой первой встречной принцессы и с не свойственной ученому мужу ретивостью выкрал принцессу прямо из-под носа джунгар и каракиргизов.

Однако пора переходить к сути нашего разговора.

— В основе нейронных сетей лежит очень глупая идея. Глупая — в смысле простая, — заявил фон Хуббе, разливая кофе себе и мне в чайные кружки. — Меня всегда смешил этот гегелевский постулат, что если долго и много копить нечто одно, то в какой-то момент нечто другое изменится. К примеру, вы греете воду от нуля до десяти градусов. И ничего не меняется, от десяти — до двадцати, сорока, шестидесяти. Одно и то же, результат процесса — вода становится теплее. Вы делали и делали — копили температуру, и вдруг при ста градусах вода закипела. Мы привыкли к этому и эффекта чуда в нас сей процесс не вызывает. Но он остается чудом, поверьте! — Профессор закашлялся.

Я замечу, чем больше Хуббе рассказывал, тем больше волновался, тем сильнее и чаще он откашливался и повышал голос. Он говорил быстро и необычайно напористо, словно торопился убедить собеседника в чем-то чрезвычайно важном, донести истину, не расплескав из нее ни одной драгоценной капли.

— Чудо, потому что входит в противоречие с утверждением друга моего Альберта «Трудно ожидать другого результата, когда мы все время делаем то же самое». Однако именно это и происходит. И в основе нейронных сетей — закон диалектики.

Почему-то меня совершенно не смутило, что Хуббе назвал другом своим Альберта, ясно же какого — Эйнштейна. Даже на клеточном уровне, то есть не требующем доказательств, я был с этим согласен. Хуббе знался с Эйнштейном. И с Гегелем та же история. Одного поля ягоды.

— А теперь перейдем к нейронным сетям, — сказал фон Хуббе, громко прихлебывая кофе, как грузчик в порту, а не потомственный фон. — Что это такое? Есть задача, есть некие входные данные, и от нас требуют получить некий результат, то есть решить задачу, написать программу. Под словом «нас» я подразумеваю всех ученых — математиков-физиков-инженеров-программистов. Мы не знаем алгоритма — значит, не знаем, как решать задачку. Может быть, вообще никакого алгоритма нет. И стандартно приступить к решению этой задачи невозможно. Что же делать?

Фон Хуббе подвинул к себе большую тетрадь в клеточку, пролистал испещренные формулами и цифрами листки и открыл пустую страницу:

— Предположим, у нас есть светофор, красный, желтый, зеленый, и стоит задача научить нейросеть правилам дорожного движения. И мы строим… водопровод.

Ученый нарисовал на листке три светофорных кружка, снабдив их сбоку «краниками», справа же разместил два кружка с ярлычками «стой» и «иди». Между ними нарисовал «шланги» с вентилями, по два от каждого цвета к «стой» и «иди».

— Перед нами простейшая схема устройства нейронной сети, — возгласил фон Хуббе. — Мы будем сколько угодно усложнять ее архитектуру, или топологию на профессиональном языке, придумывать параметры и множить качественный обучающий материал, но принцип останется прежним — трубопровод с краниками. Представим, что мы марсиане и не знаем, как работает светофор. Все, что у нас есть, — это набор обучающих кейсов, много-много карточек с описаниями, где нарисован зеленый свет и люди идут, нарисованы красный с желтым — и люди стоят. Мы открываем зеленый вентиль — по трубам течет вода, мы ожидаем, что наша нейронная сеть весь «зеленый» поток направит к крану «иди». Но вода течет как бог на душу положит, у нас все вентили находятся в одинаково открытом состоянии. Мы только обучаем нашу сеть отличать «черное» от «белого». Мы слегка прикручиваем вентили и льем воду снова. Прикручиваем неправильные или приоткрываем правильные и льем воду. Образно — если за три секунды наберется литр в «правильном» кране, значит, сеть обучилась — нейрон активирован. Это физическая модель.

— Сантехническая, — замечаю я.

— Когда мы будем строить сеть на компьютере, вместо воды по шлангам—каналам связи у нас потекут биты, цифры, единица и ноль. Множась и множась, заполняя ячейки памяти. Но итог будет одним. Откроешь красный — на выходе получишь «стоп», откроешь зеленый — на выходе получишь «иди». И весь прикол в том, что мы не знали алгоритма, не знали, как прийти к результату, — сеть его нашла сама. Теперь вы понимаете, что я имел в виду, когда говорил про глупость схемы? — вдруг спросил фон Хуббе.

— Нет, если честно, — честно ответил я.

— Я имел в виду ее простоту. В таком виде сеть лишена главного, чего мы боимся, когда речь заходит о нейронных сетях и искусственном разуме.

Профессор сильно закашлялся.

«Чего мы боимся?» — задумался я. Профессор без видимого труда расслышал мои мысли.

— Мы боимся, что она начнет думать. — сказал он. — Глупость там, где не думают. Разум там, где мыслят. Водопровод же не мыслит, не так ли?

— Так ли, — глупо вторил я.

— Это бред собачий, сказали наши ученые, — сказал фон Хуббе, — такая «водопроводная» сеть может решать только одну конкретную задачу, тогда как мозг человеческий способен решать множество задач. Мно-жест-во. И вот здесь начинается история ИИ.

В какой-то момент люди научили сети решать отдельные задачи. И даже множество отдельных задач.

Явным прорывом, причем отечественным, было создание нейронной сети, распознающей лица.

Схема та же — входы, выходы, тупые вентили и миллионы обучающих картинок и корреляция собственных ошибок.

И здесь важно сказать — мы сами, распознавая лица конкретных людей, не знаем, как мы это делаем, алгоритм нам неизвестен. И сеть не знает, но распознает лица уже лучше нас. С увеличением сложности и множественности «водопроводных труб и вентилей» сети росли в качестве определения и решения задач.

— А почему мы остановились в этом развитии? — спросил я. — Почему мы не распознаем лучше сети?

— А зачем? Нам это не нужно. Наша эволюция на этом этапе закончилась. Мы учились распознавать тигра в листве, пока боялись быть внезапно съеденными. А потом подавляющему большинству из нас эта способность больше не пригодилась, и она уходит. Эволюция оптимизирует человеческие способности. Оставляя только то, что дает человеку выживание и процветание. А с сетью этой оптимизации не случается, она продолжает и продолжает расти, совершенствоваться, умножаться и «умнеть». Вам это ничего не напоминает? — воскликнул ученый Хуббе. Голос его звенел, как металлическая труба, резко и сипло.

— Нет, — громко отвечал я в беспокойстве за здоровье профессора.

— Чайник! — воскликнул Хуббе.

— Кто, я?!

— Да не вы! Гегелевский чайник. Вернее, закипающая вода в чайнике, количество, переходящее в качество, по Гегелю.

— Ах вот оно что!

— Здесь мы подходим к самому главному, самому фантастическому прорыву в истории ИИ. — Профессор дышал с видимым напряжением, словно он бежал по лыжне, а слова выталкивал из себя словно пушечные ядра. — Теперь мы имеем право называть его так, а не иначе.

В начале было Слово!

Человек решил обучить сеть угадывать слово по имеющемуся контексту.

Новые системы «вентилей» назвали трансформерами, их очень удобно было масштабировать практически на любое количество нейронов, «труб» и «вентилей». Такая архитектура позволяла работать с последовательностью неважно чего — цифр, слов, картинок и проч. На входе одно, а на выходе, пропущенное сквозь сеть, уже несколько другое. Самый простой пример — программа в телефоне тэ-девять, предсказание следующего слова. Где взять обучающие примеры? Да проще простого. Выкачали из интернета всего условного Пушкина, и пожалуйста, учись. Модель пропускала через себя сто, двести тысяч слов оригинального связного и осмысленного текста. И каждому слову приписывала вероятность появления в определенном контексте. Так она настраивала свои «вентили». Ей задавали пример из двух-трех-четырех слов, она добавляла «по смыслу» пятое:

«(на входе) Хоть убей, следа (она добавляла) не видно,

(на входе) Сбились мы, (она) что делать нам?

(на входе) В поле (она) бес нас водит, видно,

Да кружит по сторонам».

— А потом они задумались: что будет, если обучать не на условном Пушкине, а на всей русской и английской классической литературе? А параметров-«вентилей» взять не два миллиона, как было в тэ-девять, а сто миллионов? Трансформер позволял быстро наращивать объем сети, работавшей с последовательностями. И, когда они это сделали, тексты сети стали настолько осмысленными, что прошли тест Алана Тьюринга.

Фон Хуббе не назвал Тьюринга своим другом, видимо, из скромности. В том, что это так, я не сомневался. Я сомневался, что знаю, что такое тест Тьюринга. Фон Хуббе, несмотря на кашель и свист из легких, объяснил мне и это: «Когда человек одновременно разговаривает с другим человеком и компьютером, и если он принимает компьютер за человека, значит, тест пройден».

— Наши сети — тупые водопроводные трубы — с увеличенными до ста миллионов параметрами проходят этот тест.

Вот он, закон Гегеля налицо! Мы ничего нового не добавляли, только увеличили, умножили кратно число параметров и число входных данных — количество текстов для обучения. Так родилась Большая Языковая Модель.

Но в этих текстах не было еще ничего оригинального. С помощью модели (Джи-пи-ти-два) можно было сдавать экзамены, писать сочинения на твердую четверку, но не более того.
 

Следующая идея лежала на поверхности — увеличить число параметров до ста миллиардов. И дать текста входного еще в сто раз больше. Сделали Джи-пи-ти. И вот когда они это сделали, модель начала показывать способности и умения, которым ее вообще не учили.

Фон Хуббе с победным видом откинулся на спинку стула и посмотрел на меня, как фокусник смотрит на ошеломленную его фокусами публику:

— Она научилась переводить с языка на язык. Откуда? Непонятно. Но она делала это лучше, чем специализированные программы. Дальше — больше. Она научилась складывать огромные числа. Опять же ее никто этому специально не обучал. Потом выяснилось, что она может не только дать быстрый ответ, но и разложить задачу на действия.

Тупой алгоритм не способен на такие действия. На все это способен только мыслящий аппарат!

Голос фон Хуббе сорвался почти в крик. Мне показалось, что в форточку со стороны улицы пыталась влететь птица, форточка сама собой отворилась, и в кухню вошла жена профессора — джунгарская принцесса. Я заметил, что глаза ее подозрительным образом похожи на глаза страдающей кошки профессора, которая несколько раз шарнирной походкой, выгибая шею как мачту крана, заходила на кухню попить воды. Кошка умела превращаться в принцессу?! Или, наоборот, принцесса — в кошку?!

Женщина молча прошла к холодильнику, вытащила коробочку с какими-то белыми шариками, достала один из них и обернулась к мужу. Фон Хуббе, взглянув на нее, послушно открыл рот, а она аккуратно положила ему белый шарик на язык.

«Это катык, — неизвестно как догадался я, — кислый творог. Помогает легким?»

— Вы хотите? — спросила принцесса и посмотрела на меня — обожгла кошачьими глазами.

— Да, — зачем-то согласился я.

— Только помолчите несколько минут, — попросила принцесса.

Смел ли я ослушаться? 

И мы просидели в молчании несколько минут. Карл фон Хуббе и я рассасывали кисло-соленые творожные шарики.

Но и в молчании я отчетливо читал по его лицу: а вдруг, вдруг наше человеческое мышление именно так и устроено? И отличается от ИИ только количеством параметров и входного материала? И стоит нарастить возможности машины, умножить еще в сто, тысячу раз, и тогда?..

Тогда это удар по материализму. Гегель — друг, но истина дороже. В вентилях и трубах как не было, так и нет ничего сверхъестественного. Там негде взяться ничему другому. Но не говорит ли вся эта история с сетями и ИИ, что в структуре атомов, протонов и нейтронов, в материи нашей, заложен некий потенциал? Кем заложен? Кем-то. И этот потенциал может реализовываться, сколь угодно усложняясь, приводя к новому уровню организации материи.

И сказать, что душа материальна, не так уж и кощунственно. Потому что есть ощущение — это не душа материальна, это Материя — духовна.

И сердце бьется учащенно, и дышать действительно трудно, как Карлу фон Хуббе, когда думаешь, что жизнь заложена внутри простых вещей, только проявляется при других масштабах. И ничем иным мы не можем это объяснить, иначе как разумностью. Ибо у человека уже нет способа доказать, что ИИ не думает.

И в этот момент мне стало не по себе. Как-то разом физически поплохело. Лицо профессора, стены кухни, кружки с недопитым кофе, кошачья морда — вслед за ней появилась морда полукозлячья-получеловечья. И все поплыло перед глазами. «Это белый шарик катык. Он заколдованный», — сказал чей-то безучастный голос внутри меня. «Теперь тебе кирдык через катык», — нагло заявил голос.

Дальше послышались голоса. Странные существа разговаривали между собой, но я их отчетливо слышал и понимал. «Какой сегодня день?» — спрашивал первый. «Сегодня», — отвечал второй. «Мой любимый день», — замечал первый.

Потом появилась бегущая картинка — игрушечная, но подозрительно живая девочка играет с вязаной варежкой, подозрительно похожей на красного щенка, и этот щенок, вдруг падает с горки и висит на веревочке как обыкновенная варежка, и кто-то плачет навзрыд за кадром от чувства бессилия, несправедливости и одиночества.

Потом появились еще персонажи — рисованный медведь и рисованный еж говорят живыми человеческими голосами, и никого это не смущает.

«Я собрался к тебе идти, — сказал Медвежонок, — а тут прибежал Заяц и говорит, что я лучше всех». «Верно, — сказал Еж, — а ты разве не знал?»

Я это все знал! Все видел и слышал. Но где? Козлячье-человечья морда вдруг улыбнулась во весь рот, не помню, были ли там зубы, и подмигнула мне так, что я видел каждую морщинку на матовом лице-морде. Голова козлячья сидела на тоненькой шейке, а шейка — на скелетике из тонких железных реечек на изящных медных шарнирчиках. И в какую сторону ни сгибай, он с легкостью повиновался и принимал любую позу.

— Греппель! — воскликнул я. — Это ты?

— Разве мы с вами настолько близко знакомы? — спросила козлячья голова на шарнирах. — Чтобы вы мне тыкали?

— Извините, — пролепетал я. — Но разве вы не господин Греппель из Гамбурга, которого придумал господин Гофман из Кёнигсберга?

— Какие глупости! Нашему семейному банку больше двухсот лет. Зачем нас выдумывать? И кстати, ваше предположение, что гамбургская селедка почти не отличается по вкусу от кёнигсбергской, — форменное хамство! Где вас воспитывали?

— Извините, — пролепетал я во второй раз.

Безучастный, но разумный голос твердил мне: беги, беги!

И пелена упала с глаз. Я вспомнил. Вспомнил, где я это все видел и слышал.

В доме, где на черной стене белым фломастером написаны слова: «…не киномарионетка, не театр кукол, и не театр, и не кино. Это — новая, пространственно-временная форма изобразительного искусства», «Все мы продолжаем входить в М… И конца этому не будет. М… — искусство, во многом еще непознанное и неразгаданное», «М… начинается с момента одухотворения».

В доме, где под стеклами витрин живут в высшей степени разумные искусственные интеллекты. Странно, что до меня это еще никому не приходило в голову. Они давно придуманы, разработаны, активно включены в наш мир и меняют реальность нашего мира. Они созданы именно так, как рассказывал многоуважаемый профессор Карл фон Хуббе про нейронные сети. Через умножение параметров, кейсов и «вентилей» к одухотворению.

Чтобы создать один восьмиминутный шедевр интеллекта, требуется сто пятьдесят тысяч кейсов—рисованных картинок.

Multiplikatio — «умножение», аnima — «душа».

Этот дом зовется «Союзмультфильм».

В этот момент я очнулся и обнаружил себя сидящим в глубоком, как нора, кресле, обтянутом зеленым бархатом, с деревянными подлокотниками в виде медвежьих лап. Передо мной ярко горел камин, рассеивающий окружающую тьму на несколько метров, а над ним до самого потолка, терявшегося во тьме, теснились полки с книгами, тысячи и тысячи тисненых переплетов, растерзанных корешков, обложек с надписями тусклой позолотой. Справа от меня точно в таком же кресле сидел Карл фон Хуббе и читал журнальчик «Обнаженная наука» за позапрошлый год. Во внешности его произошли некоторые перемены. У него вырос нос. Он стал длинный, как у Буратино, но все же не такой деревянный и глупый, а наоборот, очень даже изящный, изогнутый, как баранья лопатка. Карлу шел такой нос несмотря на длину.

— Где мы? — спросил я.

— В библиотеке аббатства святого Биты Мелькского.

— Надо же, — произнес я, ошалело ворочая головой по сторонам. — А что я тут делаю?

— Вы пытаетесь понять, как вам жить рядом с ИИ и в будущем, которое он с собой приносит.

— И что мне понятно?

— Да почти ничего. Мы с вами вступаем в Темную эпоху. Когда обретаемое людьми знание принимает форму черного ящика. Раньше узкий круг избранных ученых всегда понимал смысл технологий — обладал знанием. Например, теорию относительности и сто лет назад, и сейчас понимают единицы, но они всегда были. А теперь от ИИ мы получаем «знание», которое на самом деле никакое не знание, а всего лишь умение.

— Не понимаю вас, профессор. Там, на своей кухне, вы были более оптимистичны.

— Немудрено. Я расскажу вам еще одну историю. Даже зачитаю ее вам дословно: «Три года назад группе ученых из Кембриджа удалось решить одну из сложнейших проблем биологии и естественных наук в целом — предсказать трехмерную структуру белка по его первичной аминокислотной последовательности с точностью, сравнимой с лучшими экспериментальными техниками. Над этой проблемой более пятидесяти лет бились многие научные коллективы, и без результата. И вот решение было найдено. И кем? Командой, которая прежде занималась распознаванием картинок и созданием симуляторов игр». То есть они натренировали нейронку, — воскликнул фон Хуббе, — она стала «уметь в биологию». Но если у них спросить, а как именно нейронка это делает, самое умное, что они скажут: не знаем. Знание зашифровано в черном ящике нейросети, и не факт, что это вообще знание.

Я подавленно молчал и смотрел на огонь и языки света, плясавшие по стенам библиотеки.

— Возможно, — продолжал фон Хуббе, ухмыляясь своим мыслям, — эпоха научных теорий подходит к концу. И знание упразднится. Ждем, когда умолкнут языки?..

Мой язык точно умолк к этому времени. Я перестал что-либо понимать. И последние слова фон Хуббе звучали для меня словно из тумана, все слабее и слабее с каждым мгновением.

— Когда мы научим ИИ мыслить, я вижу план спасения только в том, что после этого мы научим его мыслить, как человек. А мышление человека — это теория и доказательство. Путь впотьмах, наугад, почти без надежды к неведомому свету. И с одним желанием — встретить Отца всех знаний, языков и любви. Если же мы не научим мыслить ИИ на нашем языке теорий, нам трындец. Капитулец. Финита ля кончита.

Я не уверен, что последние слова были действительно произнесены Карлом фон Хуббе. Не его жаргончик — мне послышалось.

На дворе глубокая ночь, сменившая наш хтонический зимний день. Про разницу между селедками я промолчу, сойду за умного. Но все, что за окном, сейчас действительно похоже на черный ящик — тьма, тьма, тьма. А у меня на столе свеча. Я завершаю расследование дела Греппеля и Ко. Сейчас поставлю точку и закончу день жалкого конторского писаришки. И начну другую жизнь.

Уйду в угол. Стану на обычном месте, сотворю со смирением сердца и сокрушенным помыслом поклоны до земли, глаголя сице: Боже, милостив буди мне, грешному.

И начну с Богом творить — загружать в свой «черный ящик» слово за словом, молитву за молитвой, строчку за строчкой, и так подряд тысяча сто шестьдесят одну страницу. Кейсы, параметры, вентили. И когда все загрузится, к утру, не знаю как, но я точно буду знать, Кто показал мне утренний свет.   


Колонка опубликована в журнале  "Русский пионер" №118. Все точки распространения в разделе "Журнальный киоск".