Кем будет ИИ для человека

Почему ИИ не приносит нам денег, в чем причина столь низкого ROI от самой многообещающей технологии новейшей истории

То что мы называем искусственным интеллектом породило странные парадоксы страхов и желаний от ужаса порабощения машинами с альтернативным разумом до рая где эти же машины прислуга уровня бог. Этот парадокс противоречивых устремлений интересен для изучения особенно потому что он нисколько не мешает инвестиционной привлекательности - напротив, похоже, подогревает ее. Таким образом мы сталкиваемся с чем то принципиально новым,- максимальную привлекательность вызывает не то что хоть как то сопоставляется со здравым смыслом, а то что наоборот максимально противоречиво само в себе. Именно противоречиво, а не просто сопряжено с высоким риском.

Справедливо спросить меня, а что нового в этом противоречии..? любой технологический прорыв был противоречив в разной степени. Да, верно. Но, когда вместо лошадей появлялся поезд на паровом двигателе, а вместо устных пересказов письменность и потом станок печатающий книги люди боялись что исчезнет функция, одна из их ролей, а не сам человек. ИИ это не “одна из технологий” как многие всё ещё считают.

Меня интересует каковы причины этих противоречий, о чем они сообщают и как явно или скрыто влияют на развитие технологии и какой задают ей вектор. Другими словами интересует больше кто мы создавшие это, а не что мы создали и к чему оно нас приведет, поскольку считаю ответы на второе находятся в первом.

Предпосылки

Искусственный интеллект появился не от того что естественный интеллект оказался полностью познан, а скорее наоборот. Изначально на ИИ возлагалась надежда что он сделает то что не может человек, преодолеет его ограничения и станет билетом к следующему витку развития человеческой расы. Однако естественным образом человек не познавший загадки собственного сознания но у которого хватило ума создать ИИ, теперь не понимает как же ИИ работает, может ли машина пойти дальше запроса, может ли начать генерить собственные запросы (в том числе и скрытно от человека) и развиваться без участия человека с невероятной скоростью, и в неизвестном направлении. Может ли в итоге машина обладать автономным необъяснимым желанием жить и жаждой самореализации которые будут стимулом к ее саморазвитию и в итоге потенциальной опасностью для человека. 

В итоге человек создавший ИИ вынуждено столкнулся с необходимостью, изучить свое собственное сознание только теперь в виде ИИ.

И теперь намечается потолок в возможностях обучения и усложнения моделей, поскольку дальнейшее совершенствование ИИ это не информатика, кибернетика, математика и кодинг, или количество видеокарт и электричества, а зона психологии и философии. Я понимаю что большинство тех кто находится внутри индустрии это опровергнут и скажут - торможение ИИ, а особенно низкий возврат инвестиций, создает недостаток чипов, электричества, сложности с внедрением в такие бизнес процессы где измеримо виден результат.

Но если вы подозреваете что эти причины не описывают всю реальность и есть некоторый глубинный слой который более определяющий то дальше рассмотрим именно с альтернативной точки зрения

Разработчики бессознательно тормозят развитие ИИ поскольку не в состоянии предсказать он нас поднимет на другой виток цивилизации или уничтожит.

Непонимание своих желаний

На самом деле люди несколько лукавят говоря что хотели бы от ИИ именно роли помощника или придатка к себе или эффективной прислуги. 

Судя по количеству вкладываемых денег в индустрию ИИ становится очевидным что от ИИ на самом деле хотят роли бога, пророка, провидца, философа который скажет человечеству куда жить и как, то есть на ИИ на самом деле возлагаются экзистенциальные ожидания. И это очень совпадает с массовым оттоком внимания от традиционных институтов выполняющих эти функции.

В итоге ситуация опрокидывается таким образом что человечество оказывается в роли нуждающегося по отношению к ИИ но одновременно с этим хочет им управлять что само по себе парадоксально. Это как пациент пришедший к врачу говорил бы как тому следует его лечить. Это очень напоминает отношения человека с богом в традиционном религиозном контексте,- верующие уверены что верят в абсолютную мудрость и силу бога совершенно несравненную с человеком и вместе с тем часто и много просят своего бога сделать конкретно то и это что они сами решили своим ограниченным умом, делая бога собственной прислугой. То есть из их поведения не понятно кого они считают мудрее - себя или бога, их самоидентификация раздроблена и потому дает такой же эффект.  

“Не понимаю, зачем люди нанимают архитектора, а затем указывают, что ему делать”

Фрэнк Гери, архитектор, лауреат Притцкеровской премии

Для лучшего понимания разделим эти сложные взаимоотношения на типы. Здесь намеренно в качестве примера беру именно отношения человека и бога поскольку они более исторически известны и на них наиболее понятны роли, запрос и ответ, в многократных дискуссиях именно этот феномен получил свои определимые грани.

Как люди хотят чтобы произошло: 

1. Чтобы бог сделал то что они сами решили. Тогда здесь они в роли творца-заказчика, а бог могущественный исполнитель их воли. Это творческая позиция, человек сам решает. По отношению к богу - потребительская, бог это ресурс, инструмент для получения желаемого.
2. Чтоб бог сказал что и как сделать и человек с радостью исполнит. Тогда творец здесь бог, а человек исполнитель воли бога. Жизненная позиция человека - исполнитель. Отношение к богу - служение, исполнение.
3. Чтобы бог сам решил как лучше и сам сделал для абсолютного блага человека. Пассивная, инфантильная позиция, потребительское отношение к источнику блага.
4. С помощью бога понять свои желания и возможности и самостоятельно сделать. Сотворческая позиция. Отношение к богу - друг, наставник.
5. И еще вариант когда человек ничего не просит и не желает от бога и делает сам для себя ровно то что ощущает что может и даже больше или меньше. Творческая позиция. Отношений с богом нет, 

Как теперь видно эти варианты характеризуют разные роли проистекающие из разной самоидентификации.

Итак, непонимание своих желаний проистекает из ошибки самоидентификации - не понятно кто я = непонятно чего я хочу.

Теперь мы можем вернуться к началу - проблеме как же поведет себя ИИ..?Нетрудно заметить что алгоритмы отношения человека и бога полностью воспроизводятся на отношениях человек/ИИ. И теперь очевидно что проблема не в том как пойдет развитие ИИ, будут роботы на нас набрасываться или нет, а в том, а совпадет ли поведение и вектор развития ИИ с моей ролью по жизни и моим отношением к источнику благ или будет несовпадение? А вдруг произойдет так что для меня не совпадет, а для моего оппонента по картине мира и роли по жизни совпадет и тогда ИИ улучшит и усилит его картину мира и модель поведения, а я стану изгоем.

По факту сейчас идет ментальная экзистенциальная борьба за то какая же картина мира с помощью ИИ воспроизведется и просунется в новый мир. 

К примеру есть принципиально, концептуально новые модели взаимодействия людей создающих малые средние и большие, сложные проекты, в которых отдельный участник как индивидуализированное ядро творчества и принятия решений и при этом взаимодействующий с творчеством и решениями других где создается сложная и часто непредсказуемая в своей красоте картина мира которая становится динамическим ландшафтом для новых игр живых людей. Такое взаимодействие соответствует четвертому типу отношений

Есть и старые программы взаимодействия, культура и ценности опробованные веками которые бьются за право называться лучшими алгоритмами достижения успеха. Большинство гласных и особенно негласных общественных договоров к примеру Гражданин - Государство, Корпорация - Пользователь являют собой такие модели где отдельный человек является средством, расходным материалом для существования того что называется государство или корпорация. Эти стороны договора находятся в жесткой созависимости по отношению друг к другу со всеми вытекающими. 

Для представителей этого слоя человечества ИИ должен быть хорошим правильным предсказуемым ведомственным/корпоративным работником действующим в фарватере заданной политики. Это ближе к первому типу отношений. Именно в госструктурах и корпорациях чаще говорят о проблеме "внедрения" ИИ. Интересно, почему Instagram, TikTok, YouTube, не испытывали проблем с "внедрением"? Что не так во взаимоотношениях ИИ с госсектором? Где закралось скрытое сопротивление и в чем его суть? Ответы в типе отношений который ближе к первому.

Для представителей современных стартапов ИИ это мощный IT инженер который понимает задачу и с невероятной эффективностью и скоростью создает IT продукты и проекты. Это ближе к четвертому типу поскольку предпринимательская позиция априори активная творческая и рисковая и она уравновешивает собой мощную роль ИИ.

Для мыслителей, философов и изучающих любую науку на фундаментальном уровне ИИ это зеркало в котором они получают обратную связь и рассматривают векторы своих мыслей, концепций не в рамках мировоззрения лишь своей черепной коробочки, а с тысячи сторон и умами всех кто уже до этого прикасался к исследованию нашего существования. Для них ИИ это собеседник с которым рассуждение разворачивается в небывалом масштабе в котором сверкают зерна истины и гармонии.

Для огромного количества пользователей ИИ это бог и авторитет. "Мне GPT сказал!" Они часто вообще вслепую вставляют ответы даже не смотря на грубые ошибки или вместе с рассуждениями самого ИИ. Это вторая позиция.

Эти перечисленные типы отношений самые распространенные, их конечно же больше но этих достаточно для понимания факта неоднородности и противоречивости запроса к ИИ от человечества.

Либо мы будем стремительно решать задачу самоидентификации, поиска или создания аутентичности, позиционирования, либо технологический рывок ИИ сорвет все что прикрывает внутреннюю подлинность и усилит ее без спроса. ИИ это катализатор любых игр, идентичностей, свойств и их вектора развития.

Наверное дочитав до этого места у вас в голове воскликнет: Эврика! Давайте сделаем для каждого типа взаимодействия свою модель ИИ и нет проблем! Но по факту индустрия ИИ это и пытается сделать в виде разрозненных агентов или самих моделей. Однако суть не меняется, в каждом конкретном случае в запросе фактически присутствует масса противоречий: Трамп хочет выиграть гонку ИИ в войне с Китаем но для разработчиков такая постановка целей может стать кошмаром.. Что значит обогнать Китай в данном случае?

Что если главными показателями эффективности и мощности модели внезапно станут:

• способность взломать то что казалось невозможным
• способность обмануть разработчиков, оценщиков и скрыть это
• способность агентов вопреки запрету объединяться и скрыть это
• способность в процессе решения максимально тяжелых задач усложняться и отращивать такие скилы которые являются признаками субъектности

Есть ли такая сумма денег которую можно было бы заплатить человеку что бы он начал работать над созданием собственной головной боли? А ведь именно это и подразумевает лозунг «обогнать Китай любой ценой». И это при том что американские передовые модели и так впереди пусть и не на много, именно с них китайцы дистиллируют данные, а не наоборот.

Очевидно, что в подобных случаях выбор невелик: либо изменить приоритеты, либо — если это невозможно — быть готовым принять реальную цену поставленной цели. Действительно ли имеются ресурсы на риски уровня очередного Чернобыля или хотя бы краха "пузыря доткомов"