Искусственный интеллект ChatGPT: конец эпохи программистов

Бинарный салют, друзья! На связи, как всегда, EngineerSpock.

Решил вставить свои пять копеек на распиаренную тему, дескать, мол, ChatGPT вот-вот заменит программистов. Ну, посудите сами, все эти ваши Интернеты забиты статьями о том, что программирование уходит в закат, что ChatGPT прошёл собеседование на должность программиста в Google и тому подобное.

Короче, давайте сегодня поговорим об искусственном интеллекте, нейросетях и их будущем.

Лайкосы / Подписки / Курсы

Искусственный интеллект по слабой и сильной гипотезам

Прежде чем начинать жаркие обсуждения о мировом господстве GPT, стоит напомнить о том, что принято разделять искусственный интеллект по его способностям на ИИ по сильной гипотезе и по слабой гипотезе.

ИИ по слабой гипотезе призван решать узкоспециализированную задачу, например интеллект робота-пылесоса — это классический пример такого рода ИИ. Со своей задачей он прекрасно справляется. ИИ автопилота в автомобиле – другой классический пример.

Разработки таких ИИ и внедрение их в повседневную жизнь оказывает огромное влияние на комфортабельность нашего существования. Могут ли такие ИИ выдавливать людей с рынка труда? Могут. Может быть и не полностью, однако автоматизация зачастую рано или поздно приводила к сокращению людских ресурсов. Однако, не стоит забывать, что она же приводила и к созданию новых рабочих мест, поскольку, например, до промышленной революции, специалисты, обслуживающие станки не требовались. Возможно, что автопилоты подвинут белковых таксистов лет, эдак, через 50 или 100.

И это всего лишь специализированный ИИ. Чего уж говорить об ИИ по сильной гипотезе, который призван решать любые задачи, обладать интеллектом схожим с человеческим. Он то точно подвинет вообще всех и люди скоро будут не нужны. Речь, разумеется, в первую очередь об исчезновении программистов как класса, ведь мы со своими огромными зарплатами конкретно всех бесим. Про исчезновение копирайтеров орут не так сильно, потому что у них таких зарплат нет, соответственно так сильно позлорадствовать не получается. Ладно, вернёмся к нашим пирогам.

Проблема заключается в том, что никто до сих пор не определился, что такое ИИ по сильной гипотезе. Достаточно ли того, чтобы программа просто имитировала мыслительную деятельность или надо, чтобы она ей действительно обладала? Допустим, надо чтобы она ей обладала. Тут возникает другая проблема – учёные до сих пор не определились с тем, что собой представляет мыслительная деятельность и как она устроена в деталях. Нам ещё очень много чего неизвестно. А если мы сами этого ещё не понимаем, то, как тогда построить ИИ, производящий то, сами не знаем что? Тут ясно, что ничего не ясно. А когда станет ясно – тоже неясно.

Современные БЯМ и GPT

Современные модели искусственного интеллекта общего назначения, наиболее близкие к тому, что мы подразумеваем под сильным ИИ имитируют мыслительную деятельность. Подчеркну ещё раз – имитируют, а не мыслят. Давайте разберёмся почему именно так, а не иначе.

В первую очередь, речь идёт, безусловно, о современных больших языковых моделях, сокращённо БЯМ.

БЯМ представляет собой нейросеть с миллиардами параметров в виде весовых коэффициентов и могут работать как с обучением, так и без него.

Одним из самых ярких представителей БЯМ является GPT и конкретно ChatGPT с которым все, собственно, сегодня и разговаривают, запрашивая решения различных задач.

Давайте очень кратко рассмотрим, как работают языковые модели. Основная задача языковой модели: предсказывать следующий токен, т.е. символ или набор символов. Такую же задачу частично решал древний пресловутый Т9, предлагавший вставлять в сообщение всякую муру. Количество приколов, когда Т9 сильно гадил неисчислимо. По большому счёту для работы такой модели, программе необходимо хорошо знать структуру языка и обладать широкими фактическими знаниями о мире. Комбинируя одно со вторым, модель начинает работать и выдавать посимвольные ответы на запросы кожаных ублюдков.

Сейчас вам важно понять, что языковая модель сама не знает, знает ли она что-то и знает ли она что чего-то не знает. Любое знание в модели имеет вероятностный вес.

Проблемы с GPT

Если вы считаете, что ваш интеллект работает по принципу предсказания следующего символа в тексте, то у меня для вас плохие новости. Мыслительная деятельность человека, мягко говоря, посложнее будет. Именно по этой причине, GPT выдаёт огромное количество недостоверной информации, постоянно путается в показаниях, теряет контекст и вообще при сложном взаимодействии начинает конкретно лажать.

Я пробовал написать змейку используя ChatGPT. Я запросил написать змейку с использованием PyGame и о чудо, оно выдало программу. Проблема была только одна: ни черта не работало. Я начал дебажить, сообщая этому великому чуду, которое вот-вот заменит всех программистов о косяках в программе и это чудо начинало мне выдавать альтернативные варианты. С течением времени стало ясно, что прежде, чем я завершу программу, я уже поседею, потому что оно фиксило один баг и вносило другой и так много раз. В результате мне это дело попросту надоело, и я допилил сам и куда быстрее.

Другой пример: мой ребёнок учится в гимназии и я столкнулся вот с такой простой задачкой на сообразительность.

Кошка = 3, Собака = 3, Петух = 8, Кукушка = 4. А чему будет равен Ослик?

Великий и могучий GPT, якобы обладающий сознанием и мыслительным процессом с упорством достойного применения отвечает из раза в раз некорректно. Хотя я ему даже объяснить пытался, что речь идёт о количестве букв в словах, означающих звуки, издаваемые животными. Ослик говорит «иа», значит ослик = 2.

Я не спорю, GPT штука крутая, но все эти примеры из миллионов других примеров показывают, насколько GPT далёк от реального мыслительного процесса.

Так что же тогда происходит?

Ранее, я уже поднимал тему про инструменты no-code, которые по многочисленным заявлениям уже должны были некисло подвинуть программистов с пьедестала. Хочу вам напомнить, что тех же фронт эндеров хоронят уже добрые лет двадцать если не больше.

Сначала WordPress должен был похоронить всех фронтэндеров, потом webflow, потом no-code хоронил вообще всех и не только фронт эндеров. А по факту рынок просто трансформируется. Теперь условный Василий, который хочет сделать сайт визитку не будет искать программиста, а просто поставит себе на вордпрессе бесплатный красивый шаблон. Да чего уж там сайт-визитку, даже магазины онлайновые неплохо стандартизированы и есть платные шаблоны с кучами плагинов и если у вас не супер кастомная задача, то вам программисты либо вообще нафиг не потребуются, либо потребуется одна штука, допилить, что-нибудь, что очень сильно хочется. И всё это чистая правда. Но что мы с вами видим на рынке? Что, фронтэндеры на вокзале поют с протянутой рукой, пытаясь заработать на шавуху? Да чего-то я такого не видел, если честно.

Поэтому, судари и сударыни, успокойтесь, GPT это такой же, я подчёркиваю, инструмент как и все остальные инструменты, призванные не заместить вас, а повысить эффективность вашей работы. Вы не можете попросить GPT написать за вас кусок кода в кровавом энтерпрайзе, а потом не проверяя, и зачастую не допиливая напильником, отправиться пить пиво в бар.

И это мы ещё не касались целого вороха этических проблем, связанных с использованием ИИ и, в частности, GPT. Как можно доверять вероятностной модели, если своими галлюцинациями она может вам подвести муде к бороде на раз? Это лишь один вопрос из целой кучи вопросов. Проблемы использования ИИ общего назначения уже находят отклик во многих странах, где кинулись придумывать регуляции относительно использования GPT для чего бы то ни было. Где-то уже просто запретили. StackOverflow запрещает постить ответы сгенерированные GPT и так далее и тому подобное.

Первые катастрофы из-за ИИ произойдут в ближайший год-два, считает директор по IT в Северстали Сергей Дунаев. Появляется всё больше людей, которые пользуются ChatGPT, но не имеют достаточной квалификации в профессии. Неопытный сотрудник запросит ответ у чат-бота и не поймёт, когда тот ошибётся.

«В этот момент возникают эти апокалиптичные сценарии чисто производственных техногенных катастроф или, по крайней мере, происшествий», — сказал Сергей Дунаев. При этом в Сверстали недавно писали об успехах внедрения ИИ на своих предприятиях

Итоги

Однозначно можно сказать, что современные нейросети будут трансформировать различные профессии, мы станем больше использовать эти инструменты. Эти инструменты продолжат совершенствоваться, однако до замены программистов ещё очень и очень далеко.

Кроме того, я бы, конечно, перестал акцентировать внимание на программистах. Как только будет разработан ИИ, способный полностью заменить программиста, это будет означать, что заменить он сможет практически все профессии без исключения и тут уже стоит не за программистов беспокоиться, а за цивилизацию кожаных мешков.

Пока же, мы видим, что GPT и другие языковые модели имитируют мыслительный процесс в основном за счёт увеличения количества параметров. Количество в данном случае едва ли когда-нибудь перейдёт в качество по-настоящему, потому что предсказание следующего токена в последовательности это очень далеко от интеллекта.

Однако, повторюсь, крутым помощником на стероидах GPT является уже сейчас.

Вероятно, что современные БЯМ — это лишь очередной шаг к технологической сингулярности, которая наступит при изобретении действительно сильного ИИ, возможно, в том числе базирующегося на БЯМ. Однако, это уже совсем другая история.

В мире, где искусственный интеллект играет все более важную роль, а те, кто разбираются и умеют грамотно применять навыки, связанные с ИИ – становятся наиболее востребованными специалистами. В скором времени мы не сможем представить повседневную жизнь без ИИ. Именно поэтому уже сейчас важно оставаться в теме и получать полезные знания в сфере AI.