По мнению IT-инженера Никиты Кузнецова, искусственный интеллект заметно изменил подход к технической работе. Нейросеть больше не ограничивается выполнением небольших поручений и постепенно становится участником процесса принятия решений.
Модель можно использовать для анализа технических логов, истории пользовательских обращений, результатов испытаний, документации и программного кода. Она способна быстро обработать тысячи записей и выделить информацию, которую человеку было бы трудно изучить за короткое время.
В частности, как передает КП-Молдова, нейросеть может обнаружить повторяющиеся ошибки, объединить похожие обращения, сопоставить сбои в работе сервиса с жалобами пользователей и найти необычные отклонения. Это позволяет инженеру быстрее понять, где может находиться источник неисправности.
Однако искусственный интеллект не всегда правильно объясняет найденные связи. Он может ошибиться в трактовке контекста и выдать логичную на вид версию, которая не соответствует действительности. Поэтому вывод модели следует воспринимать как рабочую гипотезу, а не как готовый диагноз.
Кузнецов считает, что ИИ не должен рассматриваться как конкурент человека. Опытный специалист с помощью нейросети может быстрее решать технические задачи, изучать чужой код, готовить тесты и создавать прототипы.
Одновременно автоматизация делает ошибки более быстрыми и масштабными. Например, модель способна создать рабочий фрагмент программы за несколько секунд, но это не гарантирует его надёжности. При изменении нагрузки или появлении нестандартной ситуации код может дать сбой.
Проблема может быть связана и с безопасностью. В сгенерированной программе иногда встречаются уязвимости, ошибки при обработке пользовательских данных или решения, которые не учитывают все варианты работы системы.
Поэтому инженер должен понимать общую архитектуру продукта и заранее оценивать последствия предложенного моделью решения. Простая генерация кода не отменяет необходимости в тестировании и профессиональной проверке.
IT-инженер Никита Кузнецов об искусственном интеллекте и современных технологиях
Сенсаций.Нет отмечает, что особое значение имеет то, какие действия разрешены искусственному интеллекту. Пока модель только предлагает текст или вариант кода, возможную ошибку относительно легко исправить. Но если она может самостоятельно менять сведения, управлять доступом или запускать операции, риск становится гораздо выше.
Именно поэтому управление ИИ Кузнецов рассматривает как полноценную инженерную задачу. Важно заранее определить доступные данные, перечень разрешённых операций, обязательные точки подтверждения и возможность отмены действий.
Эти требования особенно актуальны для ИИ-агентов. Они могут самостоятельно выполнять несколько связанных операций: обработать письмо, найти информацию о клиенте, подготовить ответ, внести изменения в CRM и назначить задачу сотруднику.
Преимущество такого подхода заключается в сокращении ручной работы. Но агент, получивший избыточные права, может причинить значительный ущерб. Поэтому его доступ должен соответствовать конкретной задаче.
Например, системе может быть разрешено читать расписание, но не удалять встречи. Агент может подготовить платёж или другую финансовую операцию, однако окончательное подтверждение должно остаться за человеком.
IT-инженер Никита Кузнецов об искусственном интеллекте и современных технологиях
Кузнецов подчёркивает, что ответственность за результат несут разработчики и владельцы продукта. Нейросеть не определяет самостоятельно, какие полномочия ей предоставить. Эти решения принимают люди.
При этом одна ошибка в настройках может оказаться опаснее единичной ошибки сотрудника. Автоматизированная система способна повторять неверное действие снова и снова.
Инженер также отмечает, что современный сервис нельзя однажды запустить и больше не контролировать. Продукты развиваются, параметры меняются, поэтому устойчивость системы необходимо поддерживать на протяжении всего периода её работы.
