Компании устремились в ИИ, теперь некоторые сворачивают активность

Компании ринулись в ИИ. Теперь некоторые отступают. Быстрая интеграция ИИ оставила сотрудников убирать за потоком ошибок и низкокачественной работы.

Работодатели по всему миру сталкиваются с последствиями поспешного внедрения быстро меняющихся инструментов искусственного интеллекта.

Согласно сообщению Reuters, Meta сократила планы по массовым увольнениям и более широкому использованию ИИ‑агентов после того, как компания обнаружила, что сотрудники тратят всё больше времени на исправление технических и связанных с безопасностью ошибок. А после сокращения персонала, особенно управленцев среднего звена, в рамках программы повышения эффективности 2023 года, компания вновь увеличивает число менеджеров, как показывают публикации сотрудников в LinkedIn.

В Microsoft, где ИИ был широко развернут внутри компании, исполнительный вице‑президент Райан Рослански недавно публично пожаловался на распространение некачественных результатов работы ИИ в своей повседневной деятельности. Получив от коллеги «очевидно сгенерированный ИИ документ», он использовал собственный ИИ, чтобы его резюмировать, и не получил никакой новой идеи, сказал он. Он предупредил подписчиков об опасности оказаться в потенциальной «петле деградации», где ИИ читает и пишет, оставляя «океан однообразия».

Тем временем сотрудники магазинов и складов Walmart страдают из‑за неадекватных ожиданий, ошибок и ложных оповещений от инструментов ИИ, которые назначают задания, составляют графики и контролируют производительность, пишет Business Insider.

Работодатели сталкиваются с наплывом ошибок и низкокачественной работы, которые отнимают время сотрудников, создают риски для конфиденциальности и безопасности и повышают расходы. Теперь некоторые компании, начавшие с агрессивного внедрения ИИ, затормаживают процесс: вводят ограничения там, где раньше поощрялось экспериментирование, возвращают опытных сотрудников и усиливают программы обучения.

Руководители C‑уровня отмечают, что в вопросах ИИ ощущается «как будто мы одновременно водим грузовик и строим его, и это проблема», сказал Джонни С. Тейлор младший, президент и генеральный директор Общества управления человеческими ресурсами. «Если бы можно было вернуть время назад… мы бы внедряли [это] более обдуманно и медленнее».

Несмотря на миллиарды долларов, вложенные компаниями по всему миру в ИИ за последние несколько лет, значительных отдач пока немного: 90% руководителей говорят, что усилия по внедрению ИИ еще не привели к росту производительности в их компаниях, согласно рабочему документу Федерального резерва Атланты. А опрос Ernst & Young, опубликованный в прошлом месяце, показал, что 36% старших руководителей по ИИ в компаниях с годовым оборотом не менее $1 млрд сообщили об инциденте с ИИ, приведшем к последствиям, включая потерю данных, финансовый ущерб, урон репутации или нарушения в работе.

Компании от Microsoft до McKinsey ограничивают использование ИИ сотрудниками, поскольку поток новых инструментов и жадное их потребление давят на экономические показатели. Другие, такие как Palantir, Booz Allen Hamilton и Nvidia, ограничивают использование сотрудниками из‑за растущих опасений по поводу безопасности данных организаций при взаимодействии с компаниями, создающими ИИ, сообщает Reuters.

Microsoft и Walmart отказались от комментариев. Meta, Palantir, Nvidia и Booz Allen Hamilton не ответили на просьбы о комментариях.

«Сначала мы относились к ИИ как к традиционному развертыванию технологий: внедрили инструменты, провели обучение, стимулировали их использование», — написала Кэтлин Хоган, главный директор по стратегии и трансформации Microsoft, в недавнем блоге о пути компании по внедрению ИИ. «Мы узнали, что доступ и использование не равны трансформации».

ИИ остается смесью плюсов и минусов для менеджеров и сотрудников: более половины работников заявили, что «не получают необходимого обучения по ИИ», в то время как большинство менеджеров признали, что их сотрудники более подкованы в ИИ, согласно опросу Indeed, опубликованному в июле. Только 45% менеджеров сказали, что чувствуют себя «готовыми эффективно руководить носителями ИИ».

Многие работники ощущают, «что от них требуют использовать эти инструменты без какой‑либо инструкции о том, как их лучше всего применять», сказал Зак Мейбл, директор исследований Центра по образованию и труду при Джорджтаунском университете. Между тем менеджерам приходится выполнять требования «внедрить это, найти прирост производительности и при этом не снизить качество», добавил он.

Компании пытаются ликвидировать эти пробелы, отходя от разовых вебинаров для широкого круга сотрудников и переходя к «постоянному обучению, ориентированному на конкретные роли», сказал Тейлор.

Microsoft обнаружила, что «добавление агентов в сломанный процесс всё равно оставляет сломанный процесс» и «ускорение одного шага просто создаёт более длинную очередь на следующем», говорится в блоге Хоган. Компания выяснила, что фокус на обучении сотрудников, в частности сопоставление начинающих инженеров с более опытными коллегами, повысил производительность.

Одним из препятствий для более крупных выгод от ИИ является склонность технологии выдавать «правдоподобно выглядящий результат» с недостатками или ошибками, не всегда сразу заметными, объяснила Джессика Рейф, доцент менеджмента в Уортонской школе Университета Пенсильвании.

«Это повышает вероятность того, что ошибка распространится по рабочему процессу, а не будет немедленно исправлена», что может привести к лавинообразному нарастанию проблем, сказала Рейф.

Тем временем способность ИИ оценивать человеческих работников по‑прежнему ограничена, что создает напряжение в некоторых компаниях. В Walmart растет недовольство среди рядовых сотрудников магазинов из‑за непоследовательных и неточных инструментов ИИ, пишет Business Insider.

Сотрудники описывали ботов, которые устанавливают нереалистичные стандарты для людей, одновременно создавая множество собственных неэффективностей и ошибок. Инструменты ИИ прокладывали бессмысленные маршруты для работников комплектования, что затрудняло быстрое выполнение заказов, генерировали бесполезные оповещения по безопасности и составляли нереалистичные графики, из‑за которых сотрудники магазинов вынуждены были идти на риски, чтобы успевать.

Эти боты предполагают, что работники будут «совершенны каждый раз», сказал один менеджер Business Insider. «Мы не будем требовать от людей соответствия этим невозможным стандартам».

Нил Элан, юрист в Stubbs Alderton & Markiles LLP, сказал, что наблюдает «растущий разрыв» между тем, как корпоративные клиенты думают, что используют ИИ, и тем, как они его действительно используют, что создаёт проблемы с конфиденциальностью, интеллектуальной собственностью, эффективностью и поведением сотрудников.

Это также создает головную боль для компаний, когда использование работниками ChatGPT становится публичным.

Накануне того, как Уилл Мой должен был предстать против 3M в суде по делу о взрыве газа в 2020 году на производственном предприятии в Хьюстоне, который убил троих и повредил сотни домов и предприятий, адвокат получил отчет от независимого эксперта компании. Просматривая его на iPad, Мой заметил явные признаки ИИ: странное форматирование и шрифты и метки времени, показывающие, что 14 500 страниц были собраны за считанные часы. Мой заподозрил, что автор, Джош Оутенриет из Knighthawk Engineering, не обладал экспертизой и полагался на ChatGPT, несмотря на то, что выставил 3M счёт в $90 000 за отчет, доказывающий, что компания не несла ответственности.

Чаты Оутенриета, которые Мой запросил и представил в суде, показывают, что он загрузил фотографию газового датчика, лежащего в основе дела, и спросил у ChatGPT: «Что я здесь вижу?».

Жюри пришло к выводу, что 3M не провела надлежащую проверку системы обнаружения газа, и постановило, что компания должна выплатить $61,5 млн 24 домовладельцам. После вердикта Мой сказал, что присяжные «выразили глубочайшее недоверие» к тому, что компания наняла эксперта, который делал утверждения «без какой‑либо основы».

«[3M] пытались изменить нарратив, — сказал Мой. — И наняли эксперта, который никогда не касался этой машины».

Представитель 3M заявил, что «после независимого анализа фактов и вынесения собственных выводов» Оутенриет «использовал ИИ как инструмент при подготовке своего отчета».

Юрист Оутенриета Янина Войтковски заявила, что ChatGPT не породил его мнений и не заменил его «профессиональное суждение», но помогал в форматировании, структурировании и составлении текста в условиях «жёстких сроков».

Пока компании и работники пробуют разбираться с неизвестностью раннего этапа внедрения ИИ, расходы становятся более очевидными, тогда как широкие приросты производительности по‑прежнему остаются недоказанными.

В исследовании, опубликованном в мае, исследователи из Университета Питтсбурга пришли к выводу, что производительность не выросла после того, как компании инвестировали в ИИ и сократили штат. Хотя руководители на протяжении лет были чрезвычайно оптимистичны относительно потенциала ИИ, «оптимизм менеджмента не эффективно переводится в… улучшение показателей», говорится в статье.

Более 112 000 объявлений о сокращениях в США в 2026 году уже упоминали ИИ, что делает его одной из главных причин увольнений, по данным Challenger, Gray & Christmas.

Ранее в этом году Meta приостановила практику отслеживания активности сотрудников на компьютерах для обучения своих ИИ, сообщил Reuters. Meta также недавно сообщила сотрудникам, что их внедрение и использование инструментов ИИ больше не будут учитываться в оценках эффективности, пишет The Information.

Meta не ответила на запрос о комментарии.

Марк Ма, профессор Университета Питтсбурга и исследователь по теме увольнений из‑за ИИ, сказал, что руководители сосредоточены на краткосрочных результатах, «поэтому они пытались двигаться вперёд, инвестируя в ИИ и увольняя работников».

Но, по его словам, акции компаний, как правило, падают после объявлений об увольнениях, связанных с ИИ, что говорит о том, что «рынок акций тоже не думает, что это сработает».

«Многие из этих ошибок можно было избежать, — сказал Ма. — Теперь я чувствую, что некоторые менеджеры усвоили урок».