Недавно посмотрел лекцию Юваля Ноя Харари в Оксфорде. Главный его тезис звучит так: ИИ это не инструмент в наших руках, а агент со своими руками. Слушал и поймал себя на мысли, которая давно крутилась в голове. Мы боимся не того. Ждать пришествия Скайнета поздно. Он уже случился, лет десять назад. Просто выглядит совсем не так, как нам показывали в кино.
Роботы пришли без оружия
Голливуд приучил нас к конкретной картинке. Восстание машин выглядит как армия терминаторов на улицах. Роботы с оружием, у которых нет слабых мест. Идеальные военные машины.
Реальность оказалась скучнее и страшнее одновременно. Машины не стали воевать с нами. Они просто начали принимать за нас решения. Тихо, без выстрелов, в фоновом режиме. Под искусственным интеллектом я здесь понимаю не только большие языковые модели вроде ChatGPT или Claude. Я говорю про любые системы, которые умеют принимать решения в условиях неполной информации. Шахматные движки. Рекомендательные системы. Антифрод в банках.
Первый пример реальной пользы от нейросетей, про который я прочитал в жизни, был про инфраструктуру. Google ещё в 2016 году отдал нейросети управление охлаждением своих дата-центров. По данным DeepMind, расход энергии на охлаждение упал на 40 процентов. Просто алгоритм, который крутит вентили лучше человека.
А дальше такие алгоритмы расползлись по всем сферам, от которых зависит наша жизнь. Пройдёмся по ним.
Деньги
Начнём с финансов, потому что тут захват самый полный.
Информационные системы банков в постоянном режиме ведут антифрод-операции. Отслеживают счета, ищут подозрительные транзакции, мониторят активы. Ваши деньги двигаются между серверами и потенциально никогда не касаются человека.
Фондовый рынок. Современная биржевая торговля полностью цифровая. Значительная часть сделок совершается роботами, которые торгуют от лица банков, фондов и частных инвесторов. Оценки доли алгоритмической торговли разнятся, но речь идёт о большей части объёма на крупных рынках. Действия этих роботов определяют спрос на активы. А значит, стоимость пшеницы, нефти и электричества. То, как написан код торгового робота, напрямую влияет на ваше благосостояние.
И кредитный скоринг. Дадут вам ипотеку или нет, решает не человек, который понимает вашу потребность в жилье и стабильности. Решает алгоритм. Он не знает, что такое своё жильё. Ему всё равно. Но именно он определяет, купите вы квартиру или нет.
Логистика и цены на полках
Задача логистики это сложнейшая оптимизационная задача. Чистыми детерминированными алгоритмами она решается не всегда. Нужна система, которая сама оптимизирует маршруты под миллионы параметров в каждой конкретной ситуации. Крупные логистические системы, в том числе те, с которыми я работал, в той или иной форме построены на механизмах машинного обучения.
Почему это касается вас. Доставка это серьёзная статья расходов в цене товара. Компьютеры, которые ведут логистическую работу, определяют стоимость доставки. А значит, влияют на цену всего, что вы видите на потребительских полках. Всего.
Внимание и повестка
Теперь самое интересное. Люди кластеризуются по интересам на платформах. Видеохостинги, каналы, соцсети, форумы. На каждой платформе работает рекомендательный алгоритм, задача которого предложить вам то, что вас зацепит.
С задачей они справляются отлично. Зависимость от лент всерьёз обсуждают как клиническую проблему. Алгоритмы влияют на интересы фактически всего населения планеты. Какие политические проблемы вас волнуют. Про что вы узнаете, а про что никогда не узнаете. Кого вам покажут раньше, правых или левых. Это решают самообучающиеся системы, которые уже никто до конца не контролирует. Они формируют информационную повестку планеты.
У Харари в лекции есть точное наблюдение на этот счёт. Одна из первых профессий, которую ИИ забрал у людей, это не таксист и не рабочий на фабрике. Это редактор новостей. Ленин и Муссолини до прихода к власти работали редакторами газет и через них формировали общественное мнение. Сегодня эту работу выполняют алгоритмы соцсетей.
Дальше больше. Большинство крупных компаний прогоняют резюме через автоматический первичный отбор. Машина решает, общаться с вами вообще или нет. Модерация контента тоже на алгоритмах. Можете ли вы опубликовать статью, фото или видео, решает не человек. Машина решает, достойны ли вы голоса на площадке.
Критическая инфраструктура
Здесь речь уже не об ИИ, а о софте в целом. Электросети, которые питают ваш ноутбук, чайник, лифт и светофоры. Авиадиспетчерские службы. Железнодорожное сообщение. Здравоохранение. Всё это работает на программном обеспечении, которое отвечает за вашу безопасность и, по сути, за вашу жизнь.
Причём значительная часть этого кода написана десятилетия назад. Старые языки вроде Fortran и COBOL, унаследованные архитектуры, которые мало кто до конца понимает. Специалистов по ним всё меньше.
Насколько мы зависимы от этого софта, хорошо показывают крупные сбои последних лет. Летом 2024 года одно неудачное обновление CrowdStrike положило миллионы компьютеров на Windows по всему миру. Не взлетали самолёты, сбоили банки и больницы. Это был не взлом и не атака. Просто ошибка в коде. И целые отрасли встали, где на часы, а где и на дни.
Делегирование агентности
Теперь главная мысль, ради которой я всё это пишу. Под агентностью я понимаю возможность действовать самостоятельно. Самому принимать решения, проявлять активность. И вот эту агентность мы всё чаще делегируем алгоритмам.
Простой пример. Вы пишете на маркетплейсе «купить щётку». Алгоритм пытается угадать, что вы имели в виду. Зубную щётку или для обуви. Электрическую или обычную. С мягким ворсом или жёстким. На площадке сотни миллионов товаров, вы физически не отсмотрите их все. Вы выбираете из того, что вам предложил алгоритм. Вес алгоритма в решении о покупке больше вашего собственного.
И это рационально. Я не эксперт в зубных щётках. Тратить несколько дней на выбор щётки я не готов, моё время стоит дороже. Мне нужна помощь. Но надо честно признать: часть своей самостоятельности я в этот момент передал машине.
Обратного пути, кстати, нет. Ни в одной крупной IT-системе вы не можете посмотреть ленту, которую не отранжировал алгоритм. Такой кнопки не существует. И даже если вы с системой не согласны, повлиять на неё вы почти не можете. Дело даже не в отсутствии настроек. Система знает про вас столько деталей и нюансов, что для изменения выдачи вам придётся измениться самому как человеку.
Харари объясняет, почему так вышло. Люди управляют миром через бюрократии: банки, суды, государства, корпорации. Это искусственная среда, где сила измеряется умением работать с документами и данными. И ИИ в этой среде сильнее любых людей. Ни один юрист не помнит все законы страны. ИИ помнит. Ни один бухгалтер не удержит в голове все транзакции банка. ИИ удержит. Мы в бюрократии задыхаемся, а для ИИ она как кислород. Ему не нужно устраивать восстание. Он постепенно занимает мир изнутри, через системы, которые мы сами же построили.
Итог
Софт действительно пожрал мир. Он в посудомойках, духовках, смесителях и датчиках аэропортов. Тот ужас, который нам рисовали в кино, случился давно и незаметно. Роботы уже управляют нашими деньгами, интересами, покупками и инфраструктурой. Осознать глубину этой зависимости почти невозможно, потому что даже уровень вашей осведомлённости об этой проблеме определяет алгоритм поисковой выдачи.
При этом паниковать я не предлагаю. В ключевых точках инфраструктуры люди пока держат контроль. Мы следим за этими системами, настраиваем их, отслеживаем показатели. И у технологии огромные плюсы. Соцсети позволяют людям из разных отраслей делиться опытом и находить друг друга. Маркетплейсы находят вам специфичный товар за минуту вместо месяца поездок по магазинам.
Я встречал людей, в IT и за его пределами, которые пытаются отвергать технологии ИИ целиком. По-моему, это глупо. Они уже пронизывают всю вашу жизнь, отказ ничего не меняет. Эволюция это выживание не сильнейшего, а того, кто лучше адаптируется. Нам нужно понимать сильные и слабые стороны технологии, использовать её во благо и учиться ограничивать применение во вред. А бояться условного Скайнета поздно. Он уже здесь. И, как видите, жить с ним можно.
Теги: