Большие языковые модели, они же LLM, которые чаще всего сейчас ассоциируются у людей с искусственным интеллектом, появились в 2017 году и стали по-настоящему популярны 3-4 года назад.
Но только недавно в обществе начали обсуждать их теневую сторону, которую до поры до времени старались не замечать. Хотя некоторые их неприятные особенности просто бросаются в глаза.
Прежде всего, это такая неприятная особенность, как «галлюцинации» — когда ИИ ответы попросту придумывает, причём внешне достаточно убедительно. И если не знать, что такого не бывает, можно и поверить.
Обозреватель «Про Металла» сам недавно столкнулся с подобным эффектом: ему пришёл релиз от пресс-службы одного уважаемого научного учреждения. В документе говорилось о том, что его специалисты разработали более эффективные методы работы для предприятий редкометальной отрасли (кстати, исследование проводилось за госсчёт). Которые предполагают, в том числе, использование... доменного газа.
Мы глаза протерли: откуда там доменный процесс? Может, они цех предлагают строить рядом с меткомбинатом, чтобы его выбросами обогреваться? Вроде нет... а вот ИИ, как выяснилось позже, такое про домны от себя дописал.
Проблемы, связанные с использованием ИИ в промышленности, в том числе в горном и металлургическом производстве, обсуждали недавно специалисты в рамках форума «Металлообработка-2026». В том числе затронули и эту.
Использование ИИ в промышленности обсуждали недавно специалисты в рамках форума «Металлообработка-2026».
Дмитрий Крикунов, представитель компании МТС (которая уже предоставляет не только услуги связи, но хочет стать технологическим партнёром для предприятий, включая вопросы автоматизации, цифровизации и роботизации), заявил:
«ИИ все ещё нередко врёт, но врёт очень уверенно. Как только что взятый на работу юноша-стажёр, который мало что знает, но должен оправдывать свой приём на работу. Иногда работники из-за этого в нём быстро разочаровываются. Но если быть толерантнее к его неверным ответам, из взаимодействия с ИИ можно извлечь много пользы.
Например, вам нужно, чтобы он подсказал технологическое решение. ИИ даст 10 вариантов, из которых 5 вы знаете и так, два будут полной ерундой, и три можно попробовать. Про один из них ваш технолог скажет: а вот это круто, как нам в голову не приходило?
Что сегодня может дать решение «из коробки», не адаптированное конкретно к нашим потребностям? Оно может генерировать текст или картинки... и этому тоже можно найти в промышленности применение. Но пока не нужно что-то прогнозировать с использованием искусственного интеллекта... Техподдержку автоматизировали, но это значит чаще всего, что мы автоматизировали выдачу неправильных ответов. Даже с учётом того, что ИИ заметно развивается».
Для HR-отдела внедрение ИИ даёт пока больше проблем, чем пользы. Нередко он отсеивает по каким-то формальным причинам специалистов с уникальным опытом, не допуская их до собеседования с людьми, которые бы их по достоинству оценили. Впрочем, сейчас и многие резюме, которые анализирует ИИ, искусственным интеллектом же и написаны, соискатели считают, что так экономят своё время... Возникает странная ситуация — один ИИ против другого.
Отдельная болезненная тема: а кому ещё потом будут доступны данные, которые предприятие загрузит в генеративный ИИ? Вероятно, разработчикам ПО? Владельцам систем? В России «суверенных» ИИ две, а кто-то скажет полторы — смотря как считать Yandex (до недавнего времени зарегистрированный в Нидерландах). Вторая — GigaChat от Сбербанка. Но гораздо более продвинутыми считаются западные модели, с которыми многие предпочитают работать. И тут возникает опасность утечки данных.
В зале собралось много экспертов по ИИ.
Правда, есть фирмы, которые предлагают аппаратно-программные решения, не предполагающие использование сторонних облачных сервисов. Всё «вертится» в локальном «частном облаке». Это позволяет снизить риск утечки. Одно из таких решений демонстрировал Иван Рыбин из компании «Гравитон».
Выступавшие отмечали, что в последние годы нередко сталкивались с одним и тем же эффектом: сперва топ-менеджеры увлекались ИИ, переживали, можно сказать, эйфорию в связи с перспективами его применения... но быстро разочаровывались.
И нередко дело не в ИИ как таковом, а в тех данных, которыми мы его «кормим». Ведь он выдаёт свои решения на основе тех сведений, которые поступают к нему извне. Как считает Андрей Гончаров (ГК «Цифра»), здесь может возникнуть несколько проблем.
«Цифровой разрыв» — информация, поступающая с датчиков в режиме реального времени, может консолидироваться в системе с опозданием и несколько устаревать.
«Тёмные данные» — как показывает практика, значительный их массив просто не анализируется. А иногда он существует в неоцифрованном виде — как записи в журналах и т.д., а ведь речь может идти об исторических данных по ключевым технологическим параметрам, и в этой части для ИИ недоступен.
Так что прежде, чем предъявлять претензии ИИ, стоит задуматься, насколько «грязными» являются наши базы данных и насколько они адаптированы под ИИ? Иногда в них человек-то не разберётся. Особенно важна чистота данных, если мы хотим получить от ИИ предиктивную аналитику, прогноз.
Нередко внедрение ИИ вызывает психологические проблемы у персонала. Выступавшие на форуме отмечали, что главным препятствием для внедрения ИИ на производстве часто выступают... сами люди, работники, у которых в связи с применением этой технологии может быть масса опасений. Например, что в итоге они останутся без работы. Наблюдается не просто низкая вовлечённость персонала в цифровые перемены — ситуация может перерасти в прямое сопротивление этим изменениям. Проще говоря, в саботаж.
С программистами, кстати, этот вопрос сейчас встаёт наиболее остро. Возникает парадокс. Допустим, код будет писать ИИ, и мы уволим всех начинающих программистов, которых он уже сейчас способен заменить. Оставим только наиболее опытных, получим большую экономию. Отлично, но через 10–15 лет по различным причинам, в том числе связанным с возрастом, опытные кадры начнут уходить. А где взять им замену? Из людей, которые не прошли все ступени профессионального роста? Из воздуха они появятся что ли, эти опытные?
Андрей Гончаров (ГК «Цифра»), на фото справа.
Как отметил Станислав Трунов (ГК «Цифра»), стоит задача сделать ИИ максимально дружелюбным к работникам, показать, что он призван не заменить их, а сделать их труд гораздо более эффективным.
Впрочем, уже сейчас можно найти и вполне позитивные примеры. О некоторых внедрённых решениях рассказал Станислав Зиганшин из «Визорлабс» (которая, в частности, считается технологическим стандартом в компании «Северсталь»). Эта компания много лет занимается компьютерным зрением и сумела в последние годы удачно объединить его с возможностями ИИ.
«Наша платформа способна распознавать нарушения на объекте, но заказчик уже просит предоставлять не только то, что видно в кадре, а развёрнутую информацию: что делать дальше, почему возникла ситуация, чем опасна? Не просто на уровне есть каска на работнике или нет. Заказчик хочет минимизировать ложные тревоги. Вот что на картинке — просто пар или дым? В чат можно отправить картинку — и он поймёт контекст, даст верные ответы. Генеративка добавляет к компьютерному зрению собственный смысловой слой», — отмечает Станислав Зиганшин.
Выступает Станислав Зиганшин из «Визорлабс».
Понятно, что у ИИ в промышленности есть большое будущее, и стоит начинать взаимодействовать с ним прямо сейчас, но пока ещё не полностью ему доверять.
Как пел ещё полвека назад знаменитый тогда бард Александр Галич, «может станут автоматы не глупее людей, только очень это будет не вскорости!»
Алексей Василивецкий
