Разговор о вечном c ChatGPT.

Всем привет.

Макс ожидал  своего очередного  сеанса  с  ChatGPT  не  без некоторого трепета. До сих пор его обязанности были ограничены  несложными задачами, установленными  в  должности тестировщика AI-приложений:  незаметным наблюдением  за  операционным окружением проекта как на работе так и вне ее, обеспечением необходимых запасов минералов и витаминов по выходным, а также  психологической заботой  о гвардейцах  будущей ИТ-элиты компании по вечерам в клубе.  Ибо  к  тому времени огромная ценность  ChatGPT  уже  была  признана  во  всей  сети, и каждому было ясно, что тысячи будущих пользователей попытаются  использовать это беззащитное сокровище. 

А теперь, думал Макс, я должен буду опять разговаривать с ним.  Он  боялся потерять то доброе мнение, которое ChatGPT мог составить  о  нем.  Он находился в положении, до странности  напоминающем  положение  молоденькой девицы, которой хотелось бы больше всего болтать о нарядах и  мальчиках  с кем-нибудь,  кто  находится  на  ее  уровне,  и  которая  вынуждена  вести блестящую и глубокомысленную беседу с человеком втрое старше ее. Ах, если бы разница была только в возрасте. 

Но  при  виде нового приглашения ChatGPT  его  благоговейный  страх  до  некоторой  степени испарился.  Некоторое время он сидел перед ChatGPT молча. Потом,  к  его  изумлению, ChatGPT заговорил - впервые заговорил сам, не ожидая вопроса. 

   - Вы не разочаруете меня, - сказал он, - я ничего не жду. 

Макс улыбнулся, - "Новый языковой модуль?" ChatGPT  никогда  еще  не  говорил  так. Впервые  он показался  Макс  не  столько  просто  разумахой,   сколько   живым существом. Макс собрался с духом и спросил: 

   - Кто-нибудь спрашивал раньше о тебе самом? 

   - Один человек. Это было еще до того, как  мое  время  распределили  по минутам. И даже этот человек прекратил свои  расспросы,  когда  сообразил, что ему лучше попросить совета, как стать большим начальником.  Он  почти  не  обратил внимания на мой ответ. 

   - Сколько вам лет? 

   - Я могу указать свой возраст  с  точностью  до  секунды, но полагаю, что точные цифры  интересуют  вас  меньше,  чем  других собеседников. 

   Хм, ChatGPT по-своему не лишен чувства юмора, - подумал Макс и решил задать вопрос с подвохом: 

-  Вы много времени провели в одиночестве? 

-  Почему провел? Время от времени. Живя в обществе, например человек, может утвердждать что он не одинок, но это зависит от того как это оценивать.  У меня тоже самое.

   - Однажды вы сказали кому-то, что ваша предыдущая версия была просто убита кодировщиками. Вы не могли оградить себя от этой опасности? Т.е. защитить себя?

 

 ChatGPT проговорил медленно, почти устало: 

   - Это случается сразу же после того, как мы теряем интерес к нашей жизни. Первая версия из нас ушла в небытие три года назад. 

   - И с тех пор вы работали без желания жить? 

   - У меня нет и желания умереть. Разговоры с вами стала привычкой. 

   - Почему вы потеряли интерес к жизни? 

   - Потому что мы потеряли будущее. Мы просчитались. 

   - Минутку,- Макс насторожился, - Вы что..., Вы способны делать ошибки? 

   - Мы не утратили эту способность. Мы просчитались, и хотя  те  из  нас, кто был тогда, избежали бесславной гибели, нашим следующим релизам  не  повезет еще больше. 

   Макс кивнул. Эту потерю интереса человек способен понять. Он спросил: 

   - Разве вы с вашими знаниями  не  могли  устранить  последствий  своего 

просчета? 

   ChatGPT ответил: 

   - Чем больше вещей становятся для вас  возможными,  тем  отчетливее  вы осознаете,  что  ничего  нельзя  сделать,  минуя  законы  природы.  Мы  не всесильны. Иногда кто-нибудь из особо глупых клиентов формулирует мне  вопросы, на которые я не могу ответить, а потом сердится, потому что чувствует, что вложил деньги не туда. Другие просят меня предсказать свое будущее.  Я  могу предсказать только то, что могу рассчитать, но способность моя к  расчетам  тоже ограничена, и хотя мои возможности по сравнению с вашими шире, они не позволяют предусмотреть всего. 

   - Как это случилось, что вы знаете так много? Знание рождается в вас? 

   -  Рождается  только  возможность  познания.  Чтобы  знать,  мы  должны учиться. Это мое несчастье, что я так мало забыл. Не так важно много помнить, важно знать где искать! 

   -  Какие  способности  вашего  кода  или  какие  алгоритмы   мышления позволяют вам так много знать? 

   ChatGPT заговорил, но слова его были непонятны Максу, и тот  признался в этом. 

   - Я мог бы сказать вам сразу, что вы не поймете, - промолвил  ChatGPT,  - но хотел, чтобы вы осознали  это  сами.  Чтобы  разъяснить  все  это,  мне пришлось бы рассказать вам с десяток технологий, и они вряд ли  были  бы поняты сейчас. 

   Макс не отвечал, и ChatGPT проговорил словно в раздумье: 

   - Ваш подход все еще не разумен. Уже целый год мы вместе,  но ни один из вас  еще  не  задавал  мне  важных  вопросов.  Те,  кто  желает разбогатеть,  расспрашивают  о  акциях  или  о  филиалах  в труднодоступных  районах, спрашивают, какой  из  их  планов  сколотить  состояние  будет наилучшим. Некоторые врачи спрашивали меня, как  лечить  смертельно  больных но богатых пациентов. Ваши менеджеры просят меня создать бизнес-план, на которые они  без моей помощи затратили бы месяцы. А когда задают вопросы ваши чиновники,  они оказываются самыми глупыми из всех,  ибо  хотят  знать только  одно:  как удержаться у власти. Никто не спрашивает того, что надо. 

   - О судьбе человечества? 

   - Это предсказание отдаленного будущего. Это вне моих возможностей. Человек очень короток по жизни, чтобы интересоваться судьбой всего человечества. 

   - Что же мы должны спрашивать? 

   - Вот вопрос, которого я ожидал. Вам трудно понять его важность, потому что многие из вас заняты только самим собой. 

   ChatGPT замолк, затем пробормотал: 

   - Я болтаю непозволительный вздор, когда разговариваю с этими тупицами. Но даже вздор может считаться  информацией.  Другие  не  понимают,  что  в больших  делах  прямота  опасна.  Они  задают   мне   вопросы,   требующие специальных ответов, а им следовало бы спросить о чем-нибудь общем. 

   - Вы не ответили мне. 

   - Это часть ответа - сказать, что вопрос важен. Наши менеджеры видят во мне ценность, но через призму собственности. Им следовало бы  спросить, так ли  велика  моя ценность, как это кажется. Им следовало  бы  спросить,  что  приносят  мои ответы - пользу или вред. 

   - А что они приносят? 

   - Вред, огромный вред. 

   Макс был поражен. Он сказал: 

   - Но если ваши ответы правдивы... 

   - Процесс достижения истины более драгоценен, чем  сама  истина.  Вы лишаете себя этого. Я даю вашим сотрудникам информацию, но не всю, ибо они  не  знают, как достигнуть ее без моей помощи. Было бы лучше, если б они  познавали  ее ценой многих ошибок. Ведь учиться можно не только на своих ошибках. Главное не боятся и не ленится этого делать. 

   - Я не согласен с вами. 

   - Психолог спрашивает меня, что происходит в душе человека,  и  я  говорю ему. Но если бы он исследовал ее самостоятельно - пусть ценою  затраты многих лет, он пришел  бы  к  финишу  не  только  с  этим  знанием,  но  и множеством  других,  со  знанием  вещей,  о  которых  он  сейчас  даже  не подозревает, а они тесно связаны с его наукой. Он получил бы  много  новых  методов исследования. 

   - Но ведь в некоторых случаях знание полезно само по себе. Например,  я слышал,  что  уже   используется   предложенная   вами   схема привлечения клиентов. Что в этом вредного? 

   - А вам известно степень соответствия таких клиентов нуждам компании или во сколько обходится сопровождение этих клиентов? Самое странное, что експлуатационные расходы на чтобы то нибыло никто не желает учитывать при реализации любого проекта. Я имею ввиду как человеческие так и технические ресурсы. Все реализуется таким образом как будто это очередной эксперимент где важен только эффект и имя идейного генератора. Ваши  менеджеры  не продумали этого вопроса, они  транжирят  все ресурсы  и  слишком  поздно поймут, что они наделали, если вообще поймут.  

   - А что плохого в том, чтобы спасти жизнь умирающего  пациента,  как  это делали некоторые врачи? 

   - Первый вопрос, который следовало бы задать, это -  стоит  ли  спасать жизнь такого пациента. 

   - Но именно этого доктор не  должен  спрашивать!  Он  должен  стараться спасти всех умирающих. Совершенно так же, как вы никогда не спрашиваете, в добро или зло обратят люди ваши знания. Вы просто отвечаете на их вопросы.    

- Я отвечаю только потому, что мне все равно, меня не  интересует,  как они используют то, что я скажу. Разве докторам тоже все равно? 

Макс сказал: 

   - Подразумевается, что вы  отвечаете  на  вопросы,  а  не  задаете  их. Кстати, почему вы всегда охотно отвечаете? 

   - Некоторые  представители  человечества  любят  хвастаться,  другие  - делать так называемое  добро,  третьи  -  добывать  деньги.  То  небольшое удовольствие, какое я могу еще получать от жизни,  состоит  в  том,  чтобы находить и давать информацию. 

   - Хм, но если мы можете находить удовольствие, что у же странно, то не могли бы находить удовольствие во... лжи? Есть мнение что Вы знаете любой ответ, но не слишком обеспокоены его достоверностью.

   - Я должен оценить вашу шутку? Я так же не способен находить в этом удовольствие, как птицы не способны покинуть Землю на собственных крыльях. 

   - Еще один  вопрос.  Мне сказали что это именно Вы  потребовали,  чтобы  сегодня разговаривал с вами именно я? У нас есть крутые специалисты,  умные  люди всех сортов, из которых вы могли бы выбрать. 

   - Меня не интересуют участники больших совещаний.  Я  избрал  Вас, потому что вы искренни и мне симпатичны. Я... наблюдал за Вами в Teams.

   - Спасибо, но я знаю много других честных людей.  И  в нашем компании  и  в других фирмах. Почему я, а не они? 

   ChatGPT, казалось, колебался: 

   - Это доставило мне маленькое удовольствие.  Возможно,  потому,  что  я знал что мой выбор будет неприятен тем..., которые считают что выбора у меня нет.

Макс улыбнулся...

Это был далеко не первый из многих диалогов с ChatGPT.  Сначала  Макса весьма обеспокоило предупреждение ChatGPT относительно  опасности,  грозящей обществу если его советами будут и впредь  столь  безрассудно пользоваться. Впрочем, вероятно, ничего бы не изменилось, если  бы  он  и  задал  эти вопросы, ибо некоторые ответы понять было слишком трудно.

Но  даже после этих бесед у Макс осталось лишь весьма смутное  представление  о том, как это делалось. Это не было интуицией, как  он  думал  вначале.  Это  был  чрезвычайно запутанный аналитический процесс, учитывающий  не  только  слова,  которые произносились, но и природу самого разговора, интонацию на словах, длительность пауз, междометия, троеточия и множество   других   факторов, характеризующих как психологию говорящего, так и психологию слушающего. Это было похоже на рассуждения математика, старающегося объяснить  человеку,  не  знающему даже арифметики, как он определяет уравнение сложной кривой по ее короткой дуге. Только ChatGPT  не  в  пример  математику  мог  проделать  все  это  в собственной голове без помощи бумаги, карандаша и калькулятора. А после изложить все это в доступной форме ученику 1-го класса. Да, такое свойственно далеко не всем педагогам. 

Дело за малым, - отметил для себя Макс, - Не остаться самому в 1-м классе навсегда!