Часто говорят о повышении производительности благодаря LLM, отрицать это глупо. Это правда. С использованием LLM-ассистента, рабочий процесс станет продуктивнее, но этот же рабочий процесс будет делать вас глупее. Пожалуй, это будет справедливо для любой сферы деятельности
Эти утверждения основываются на личном опыте. Со временем развивается зависимость от инструментов LLM. Это приведёт к тому, что становится трудно работать без AI-помощника. Знакомый занимается разработкой ПО, потому что ему нравится что-то создавать и разбираться, как это работает. Это значит, что он получает удовольствие, кропотливо набирая блоки кода на своей клавиатуре. Использование LLM-ассистента в рабочем процессе лишает этого. Вместо радости от самостоятельного решения проблем, теперь нужно просто попросить LLM предложить дополнение кода.
Вместо того чтобы разбираться, что и как работает, появляется зависимость от ожидания, что ассистент скажет, что нужно делать. Возможно, некоторые люди не испытывают удовольствия от написания собственного кода. В таком случае, как бы это жёстко не звучало, они заняты не своим делом. Возможно они занимаются этим только ради денег? Справедливо подмечено. Это есть в любой сфере деятельности, и обычно это отражается на увлечённости и поведении человека.
Лучшие инженеры — люди, которые могут в свой выходной часами просидеть над улучшением ПО или созданием своей тулзы. Чёрт возьми, вот откуда берутся новшества и достижения. Вы не сможете улучшить производительность ПО без чёткого понимания как работает система. Иначе вы просто тыкнете пальцем в небо. Есть такое понятие «Отставание Второго Пилота» (англ. «Copilot Lag» ). Оно описывает состояние, когда после каждого действия разработчик останавливается, ожидая подсказки, что ему делать дальше. Самостоятельности мышления больше нет, осталось только ожидание подсказки от AI, что нужно делать дальше. Это сродни первым шагам новичка — полагаться на более опытных коллег, которые направляют твои действия и понимают, что нужно делать дальше.
Уже давно знакомый использовал «Github Copilot» в «VSCode». Когда он оглядывается на то время, то поражается, что не растерял ещё больше знаний. Со временем он начал забывать базовые конструкции языков, с которыми работал. Он начал забывать элементы синтаксиса, как использовать основные операторы. Очень неловко взглянуть в прошлое и осмыслить, как разрушались накопленные знания только потому, что хотелось мгновенного прироста скорости.
Это реально случается, когда вы используете Copilot в течении года. Вы начнёте забывать многие вещи, потому что вам больше не нужно думать, о том что нужно сделать. По крайней мере, вам больше не нужно думать таким же образом, как если бы над решением проблемы пришлось размышлять самостоятельно. Но, на самом деле, осознать это и столкнуться лицом к лицу с реальностью помогло видео «ThePrimeagen». В нём есть фрагмент одного из его стримов, где он рассказывал про «Задержку Второго Пилота». Насколько это был тревожный звоночек! После этого знакомый практически перестал пользоваться LLM-аccистентами для кодинга. И очень рад, что сделал это.
Большие Языковые Модели полезны. Они подобны поисковой системе. Мы часто обращались к ним за помощью в программировании. Поскольку Большие Языковые Модели обучены на всех этих данных, они могут стать эффективным инструментом для получения дополнительной информации по определённой теме. Но только если вы будете использовать их, имея пытливый ум, и не будете им слепо доверять. Поскольку они печально известны тем, что генерируют всякую чушь. Так уж устроены LLM. В половине случаев они создают бессмыслицу. Это просто шаблоны и последовательности токенов, а не реальные знания безумно умного человека. Они обучены на материалах, созданных людьми с пониманием предметной области, но при этом сами LLM изрыгают это совершенно оторвано от изначального контекста. В любом случае, изучение ответов и размышление, почему предложено именно это решение — единственный верный путь получить выгоду от LLM. Относитесь к этому как к диалогу, в котором вы пытаетесь понять, почему собеседник предпочёл определённое решение. Вы допустите ошибку, если не будете понимать, почему вам предложили именно это или как это работает под капотом. И самое печальное, кроме чудовищной Задержки Второго Пилота в виде тайм-аута сервера, возникает проблема: когда код компилируется и вроде работает, но почему-то не так, как хотелось бы. Ты понятия не имеешь, как вообще устроена программа и вносить в нее исправления или доработки становится равносильно написанию еще одной программы с нуля.
По материалам Хабр