Становятся ли машины все умнее? И одновременно с этим глупеет ли человек? Грозит ли «магия разумности» нейросетей бедами для человечества?
В книге Рустама Агамалиева «От «Энигмы» до ChatGPT» проводится исследование современных технологий и различные способы использования ChatGPT в российской практике: от языкового перевода, написания, редактирования и резюмирования текстов до анализа данных и генерации идей. Изучив внушительный пласт публикаций, лично исследовав работу нейросетей и пообщавшись с программистами, автор пришел к выводу, что ИИ способен существенно упростить работу учителей, маркетологов, психотерапевтов, аналитиков.
Бояться технологических изменений нет смысла, если понимаешь, как именно они могут изменить жизнь и, главное, ее облегчить. Один мудрец сказал, что единственное, чего боится человек – это неизведанное, непознанное. Так, для туземцев колыбельных цивилизаций (которых совсем до недавнего времени еще можно было найти на планете, а возможно, они есть и сегодня) обычная зажигалка является волшебным даром богов. Для жителя мегаполиса, которому ее устройство и принцип действия понятны – это всего лишь примитивное устройства для извлечения огня. Там, где понятно – там не страшно. И не удивляет. И никакой мистики. Но многие ли жители мегаполисов знают и понимают устройство и принцип действия того, что сейчас называют ИИ и нейросетью? Да хотя бы принцип работы обычного персонального компьютера? Да хотя бы калькулятора? Думается что далеко-о не многие. А ведь любой суперпуперкомпьютер это много-много-много калькуляторов в одном чипе. И, представьте себе, калькулятор Электроника Б3.02 выпуска 1974 года и современный суперкомпьютер Frontier от Hewlett Packard – работают по одному и тому же принципу. Поэтому с принципиальной точки зрения между ними, внезапно, нет никакой разницы.
Мы все взаимодействуем с искусственным интеллектом в повседневной жизни. Например, когда мы управляем автомобилем, голос «Алисы» напоминает нам о необходимом повороте через двести метров, и мы следуем его указаниям, хотя можем знать и другой маршрут. При написании писем почтовый клиент указывает на ошибки в пунктуации, и мы принимаем их во внимание, даже если знаем правила, которые ранее учили. Фитнес-трекер может показать неправильное количество шагов, заставляя нас продолжать ходить, хотя наше тело уже устало. Многие из нас хотя бы раз сталкивались с ситуацией, когда мы больше доверяли «умной» машине, чем себе, даже когда ее информация противоречила нашему опыту или чувствам. Мы можем принять решение в пользу машины, несмотря на здравый смысл. Хотя автоматизация идеальна для выполнения рутинных задач, она вполне может быть опасной, если слепо полагаться на нее. Мы меньше думаем, перекладывая этот нелегкий труд на «умную» технику, что в конечном итоге может привести к потере понимания происходящего. Наивно полагать, что мы сможем избежать чрезмерного доверия к автоматизации. Мы уже на регулярной основе используем навигаторы, автокорректоры и счетчики калорий. Возможно, мы не теряем свою умственную остроту, но точно становимся менее внимательными.
Идея создания устройства, способного помогать человеку, переходит от одной культуры к другой и сохраняется через различные формы, встречаясь в мифах, легендах, народных сказках, историях, поверьях, художественной и научной литературе. Концепция интеллектуальной машины существовала задолго до того, как стало распространенным современное представление о ней. Обычно начало истории искусственного интеллекта относят к Дартмутскому исследовательскому проекту. Прежде чем изучать изменения, внесенные искусственным интеллектом в сферу профессий XXI века, стоит рассмотреть, как люди прошлого представляли себе его возможности. Даже в древних сказках человек мечтал, чтобы машина брала на себя множество функций, которые обычно выполнял сам. Разнообразие форм таких «помощников» отражено в фольклоре, где встречаются самоуправляемые машины в виде ступы Бабы-яги или печи Емели, боты, отвечающие на вопросы, как «Свет мой, зеркальце, скажи...», а также серебряные челюсти. Интеллектуальные машины имеют долгую историю, не ограничивающуюся лишь русским фольклором. Человеческие действия подвержены воздействию небольших, случайных изменений в окружающей среде. Это небольшие колебания, которые могут вызывать лавинообразные сдвиги в шаблонах поведения, способах применения привычных нам вещей. А иногда, в редких случаях, появляется что-то, меняющее все вокруг: паровой двигатель, телефон, автомобиль, первый компьютер, компьютерная мышь, смартфон и многие другие инновации, сформировавшие мир. Многие верят, что искусственный интеллект также станет одним из таких прорывов, после которого последуют значительные изменения.
И вот появился ChatGPT, способный оперировать понятиями быстрее и ловчее, чем человек, и создавать ранее невиданные вещи. Однако слишком большое доверие к алгоритмам может привести к ошибкам из-за неправильных действий или бездействия. Умение принимать решения и решать проблемы может ослабеть из-за разрозненности внимания, что может привести к возникновению опасных ситуаций. Уже в 1990 году компания Deloitte обратила внимание на тот факт, что при автоматизации уменьшается общее количество ошибок, но растет число ошибок, допускаемых людьми. Если автоматизация снижает количество ошибок в целом, но человек начинает делать их чаще, это может иметь серьезные последствия, особенно в критически важных сферах, таких как атомная энергетика.
После того как миллионы пользователей получили доступ к функционалу нейронной сети ChatGPT, стало очевидно, что умение взаимодействовать с интеллектуальной машиной становится значительно важнее, чем умение обрабатывать информацию. Успех профессионала зависит от того, насколько эффективно он использует машину, при этом уже являясь профессионалом. Сегодня уже недостаточно только знаний, опыта и экспертности, также важно умение взаимодействовать с современными технологиями и развивать навыки обработки информации. Однако следует помнить, что использование нейронных сетей должно рассматриваться не как альтернатива человеческому мышлению, а как вызов для всех работников интеллектуального труда, от докторов и учителей до программистов и бизнесменов.
Нейронные сети не соревнуются с человеком, а предлагают инструментарий для эволюции (или деволюции). Они способны достичь результатов, недоступных как человеку, так и машине, обеспечивая более эффективное обучение и качественные результаты в работе. Следует помнить, что технология создана человеком, который является мастером своего дела. В настоящих условиях распространение искусственного интеллекта во всех сферах человеческой деятельности заставляет специалистов не только создавать значения, но также находить смысл в том, что было разработано алгоритмами. На международных экономических площадках уже обсуждаются риски, связанные с широким использованием искусственного интеллекта в профессиональной области. Это объявляется как неотвратимый процесс. В свое время при замене счет на арифмометры тоже многие счетоводы лишились работы. В отчете о будущих профессиях, опубликованном после завершения Мирового экономического форума в мае 2023 года, содержится негативный прогноз, однако он также указывает на возможные пути преодоления кризиса автоматизации. Согласно специалистам, около четверти профессий претерпят изменения. В 45 странах, включенных в исследование, численность работающих составляет более 673 млн человек, и в ближайшем будущем компании создадут 69 млн новых рабочих мест, при этом урежут 83 млн, что приведет к дефициту в 14 млн и увеличит уровень безработицы на 2%. Это касается только профессий, в которых традиционно человек превосходил машины; однако развитие искусственного интеллекта позволило компьютерам превзойти homo sapiens в выполнении определенных функций. С 2023 по 2030 год ожидается, что 75% компаний, участвовавших в исследовании, будут использовать искусственный интеллект. И это, с точки зрения технического прогресса, вполне нормальный и естественный процесс. Человечество не однократно сталкивалось с этим в обозримой истории. Справится и в этот раз.
Сотрудничество человека с машиной переходит на новый уровень, в новую область, которая ранее не была задействована. Применение машин в тех сферах, где ранее требовались физическая сила и ловкость (например, на производственных линиях или в сортировке почты), в основном останется неизменным, поскольку машины уже выполняли значительную работу в этих областях. Однако то, что прежде считалось уникальным для человека (анализ, коммуникация, координация действий группы, принятие решений на основе информации, анализ разнородных данных), в конечном итоге будет автоматизировано.
Машина, созданная человеком по собственному подобию, мыслить иначе, чем он сам, не может, поэтому она «отражает и свет, и тьму в наших душ». Несомненно, будет и что-то хорошее, и плохое, и польза, и вред. В любом случае зависеть это будет от самого человека. Любая технология – это инструмент. И нам решать как его использовать.
По материалам РБК