Назад » » 2018 » Ноябрь » 5

Как математика и новые технологии превращают нас в рабов алгоритмов

  • 5.0 Рейтинг

Математика, которая когда-то была моим «прибежищем», ныне управляет многими проблемами этого мира. Жилищный кризис, падение многих важных институтов, рост безработицы – все эти явления раскручиваются и подпитываются математиками, создающими «магические формулы».

Эти методы всё в большей и большей степени сосредоточены не на потоках глобальных финансовых рынков, а на нас самих. Математики и статистики отслеживают наши потребности, действия и покупательную способность. Они уже оценили наше будущее и текущее состояние, вычислили наш потенциал как студентов, сотрудников, любовников или преступников. Это экономика Big Data, которая обещала впечатляющие доходы.

Технологии Big Data готовы изменить мировой порядок

Компьютерная программа может в течение секунды или двух обработать тысячи заявок на работу или кредит и рассортирует, поставив перспективных кандидатов на вершину списка. Это не только экономит время, но и считается объективным и справедливым. Во всяком случае, этот процесс не требует участия людей, полных предрассудков, а только машин, обрабатывающих сухие цифры. Около 2010 года математика основательно проникла в наши повседневные дела, а общественное мнение высоко оценило это явление.

Но я видел проблему тогда, вижу её и сейчас. Математические приложения основаны на решениях, сформулированных обычными людьми, склонными к ошибкам. Некоторые из этих решений, без сомнения, были приняты с лучшими намерениями. Тем не менее, многие из математических методов переняли человеческие предрассудки, непонимание и предвзятость.

Математические модели немыслимы без математиков и программистов, которые могут проникнуть в их способ действия. Решения, представленные моделями, даже если они были плохими или вредными, не подлежат обсуждению или обжалованию.

Неограниченная программа

Статистические системы нуждаются в обратной связи – это то, что скажет им, что они отклонились от заданного направления. Статистики используют информацию об ошибках, чтобы проверить свои модели и изменять их так, чтобы они становились «умнее». Если бы Amazon в результате неправильной коррекции своих алгоритмов начал рекомендовать учебники для ухода за газонами девочкам-подросткам, то количество кликов упало бы ниже некуда. В результате, алгоритм был бы изменен до получения удовлетворительных результатов. Без обратной связи статистическая машина может бесконечно генерировать неправильные или вредные выводы, никогда не учась на собственных ошибках. Многие из алгоритмов так себя и ведут. Определяют свою собственную реальность, а затем используют её для оправдания генерируемых результатов.

Этот тип моделирования является саморазрушительным, очень разрушительным – и чрезвычайно распространенным. Например, работодатели всё чаще используют кредитную историю кандидатов при оценке потенциальных сотрудников. Согласно этим соображениям, те кто своевременно оплачивает свои счета, также будет вовремя появляться на работе и соблюдать установленные правила. Правда, однако, что многие ответственные люди и многие хорошие сотрудники имеют финансовые проблемы, которые снижают их кредитоспособность. Убеждение в том, что плохая кредитная история совпадает с низкой производительностью на работе, означает, что люди с низким рангом с меньшей вероятностью найдут работу. И так далее: безработица подталкивает таких людей к бедности, что ещё больше ухудшает их оценку, им ещё труднее найти работу, им ещё труднее платить по кредитам... Формируется спираль потерь. Математика умело маскирует многие токсичные предположения, которые, в подавляющем большинстве, работают без проверок и контроля.

Дешевые и таинственные алгоритмы

Это ещё одна распространенная особенность математических алгоритмов: они проявляют тенденцию к наказанию бедных людей. Это происходит отчасти потому, что алгоритмы создают на основе оценки больших групп людей. В итоге, алгоритмы специализируются на «оптовой» обработке данных. Это часть их очарования.

Эксклюзивная юридическая фирма или элитная школа, скорее, будет полагаться на рекомендации и личное собеседование, чем сеть ресторанов быстрого обслуживания или городская школа с финансовым дефицитом. Такая модель как черный ящик, содержимое которого яростно защищают коммерческой тайной. Считается, что держание в неведении людей, подвергающихся оценке, уменьшает вероятность того, что они попытаются обмануть систему. Единственное, что им остается, это тяжелая работа, соблюдение правил и надежда на то, что модель отметит и оценит их усилия.

С другой стороны, если модель остается непрозрачной, труднее оспорить результаты и протестовать против них. Для многих компаний, использующих такие дефектные алгоритмы, поток денег является свидетельством того, что модель работают. Проблема, однако, в том, что прибыль, в конечном итоге, становится заменителем истины.

Исследователи слишком часто теряют из поля зрения людей, которых касаются последствия работы алгоритмов. Аналитик, работающий в компании, может сказать, что никакая система не идеальна. Этим парням просто не повезло. Их часто оценивали как бесполезных или ненужных. Давайте забудем о них на некоторое время, давайте сосредоточимся на тех, кто получил полезные рекомендации от различных поисковых систем, нашел любимую музыку в Pandora Radio, идеальную работу над LinkedIn и, возможно, даже любовь жизни на Match.com. Давайте подумаем об этом удивительном масштабе и проигнорируем недостатки.

У Big Data много последователей, но меня среди них нет.

Непредсказуемые часы работы

С недавнего времени среди людей, работающих в больших корпорациях, популярность приобретает новый глагол: «замотаться». Он определяет ситуацию, в которой кто-то работает допоздна, закрывает магазин или кафе, после чего спустя несколько часов, с самого утра возвращается к работе, чтобы снова открыть их.

Это логично, когда один и тот же сотрудник открывает и закрывает двери места его работы, и полезно для предприятия. Однако, часто ведёт к лишения сна сотрудников и формированию дурацких графиков работы. Безумно нерегулярные графики работы становятся более распространенными, в частности, на низкооплачиваемых должностях в таких компаниях, как Starbucks, McDonald’s или Walmart.

Проблему усугубляет отсутствие заблаговременно предоставляемой информации. Многие из сотрудников узнают лишь за день или два, что им придётся работать в ночную смену, в среду или бороться с пробками в часы пик. Это вызывает хаос в их жизненных планах и негативно отражается на общении с детьми. Он может поесть лишь тогда, когда представится такая возможность. То же самое происходит со сном. Такие нерегулярные графики работы являются результатом экономики, основанной на данных.

Многие десятилетия, ещё до того, как компании стали накапливать данные, определение часов работы не имело в себе ничего из науки. Представьте семейный магазин товаров, в котором продавцы работают с 9 до 17, шесть дней в неделю. Однажды дочь уезжает в университет. Когда она возвращается домой на лето, то смотрит на дело свежим взглядом. Она отмечает, что практически никто не приходит в магазин во вторник утром, а продавщица всё это время серфит в интернете. Для магазина это означает меньший доход. За то в субботу недовольные клиенты ждут в длинных очередях.

Эти наблюдения приводят к ценным выводам, благодаря которым дочь может поддержать родителей в адаптации бизнес-модели. Начинают с назначения более позднего открытия магазина по вторникам и занятости кого-то на неполный рабочий день для помощи в время субботнего наплыва клиентов. Эти изменения добавляют немного планирования в непреклонную модель, которая функционировала до сих пор.

В мире Big Data студентку заменили легион докторов наук, работающих на мощных компьютерах. Компании теперь могут анализировать трафик клиентов для того, чтобы высчитать, сколько именно сотрудников нужно каждый час, каждый день. Цель, конечно, снижение расходов, что означает сохранение численности персонала на уровне абсолютного минимума и, в то же время, обеспечение эффективной работы бизнеса в горячие периоды.

Новые программы, конструирующие графики работы, предлагают намного более продвинутые варианты. Обрабатывают потоки постоянно обновляемых данных, учитывают погоду и изменения схем пешеходного движения. Например, после полудня больше людей вместо прогулки в парке выберет выход в кафе. По крайней мере на час или два, поэтому нужно привлечь больше персонала.

Футбольный матч в пятницу вечером приведет к тому, что на главной улице городка увеличится пешеходное движение – но только перед и после матча, а не во время его проведения. Анализ сообщений в Twitter предполагает, что на завтрашние распродажи по случаю Черной Пятницы отправится на 26% больше покупателей, чем в прошлом году.

Условия меняются из часа в час, а рабочую силу необходимо адаптировать к изменяющемуся спросу. В противном случае компания будет терять деньги. Сэкономленные суммы приходят, конечно, прямо из кармана сотрудников. В прежние времена сниженной производительности сотрудники могли насладиться определенным количеством менее интенсивного рабочего времени. Без сомнения, многие этим пользовались: некоторые могли читать на работе, а кто-то даже учился. Когда график работы составляют алгоритмы, каждая минута должна быть использована.

Не для родителей

В 2014 году газета «Нью-Йорк Таймс» напечатала историю, живущей в постоянной спешке одинокой матери Джаннетте Наварро, которая пыталась заработать в качестве барристы в Starbucks, ухаживая одновременно за четырехлетней дочерью и проходя обучение в вузе. Постоянно меняющийся план работы, в том числе периодическая путаница, сделали её жизнь невыносимой, лишая всех шансов на регулярное осуществление ухода за ребенком.

Ей пришлось отказаться от учёбы. Единственное, что она была в состоянии себе организовать, это работа. Её история не является редкостью. Из правительственных данных следует, что две трети работников отрасли общественного питания, а также более половины работников в сфере розничной торговли, узнают свой график работы не раньше чем за 1 неделю. Чаще это всего лишь день или два, что создает трудности с организацией транспортировки или уходом за детьми.

В течение нескольких недель после появления этой статьи основные корпорации, которые были в ней описаны, объявили, что они изменят свою практику относительно определения планов работы. Устыдившиеся работодатели обещали ввести некоторое изменение в своих моделях. Было решено устранить путаницу и смириться с чуть меньшим оптимизацией своих организаций.

Starbucks зашел ещё дальше и объявил, что компания устанавливает свое программное обеспечение так, чтобы оно стремилось к уменьшению непредсказуемости графиков работы, затрагивающих более 130 тысяч работающих там баррист. Все рабочие часы должны были быть объявлены как минимум за неделю. Однако, год спустя ещё один отчет «Таймс» показал, что Starbucks не сдержал обещаний, даже в плане ликвидации путаницы.

Проблема в том, что стремление к минимизации трудовых расходов уже переросло в некую культуру этой отрасли. Во многих компаниях заработная плата менеджеров зависит от производительности подчиненных сотрудников измеряемой почасовым доходом работника. Программное обеспечение для определения графиков работы позволяет повышать эти результаты, и, одновременно, собственное вознаграждение.

Даже когда руководители говорят менеджерам изменить подход, они часто возражают против этого. Они делают всё, чему их учили. В конце концов, бизнес-модели таких компаний, как Starbucks, создаются таким образом, чтобы оптимизировать финансовые результаты. Это означает наличие корпоративной культуры, системы мотивации и, в большей степени, математических алгоритмов.

Математика на войне

Многие технологии определения графиков работы корнями уходит в мощную дисциплину прикладной математики. На протяжении веков математики применяли основные алгоритмы, чтобы помочь фермерам в планировании сельскохозяйственных работ, а инженерам в проектировании автомобильных дорог.

Но эта дисциплина «раскрыла крылья» только во время Второй Мировой Войны, когда армии США и Великобритании привлекли математиков к оптимизации использования ресурсов. Союзники проанализированы всевозможные формы «обмена», сравнивали расход собственных средств по отношению к поврежденным средствам противника. Во время операции Starvation, которая длилась с марта до августа 1945 года, 21 эскадрилья бомбардировщиков получила задачу: уничтожить японские торговые суда, чтобы предотвратить поставки продуктов питания и других товаров к берегам Японии.

Математики тщательно поработали, чтобы минимизировать число сбитых бомбардировщиков по отношению к затонувшим японским кораблям. Им удалось достичь «ставки» 40 к 1: на 606 затопленных японских кораблей было уничтожено лишь 15 американских самолетов. После окончания войны крупные компании (как и Пентагон) выделили огромные средства на развитие алгоритмов оптимизации.

В 60-х годах японские производители автомобилей сделали ещё один шаг, внедрив систему производства, называемый Just-in-Time (JIT). Её предположение заключалось в том, что вместо того, чтобы хранить тонны рулей и коробок передач, которые при необходимости нужно извлекать с огромных складов, фабрика заказывала детали по мере необходимости, без необходимости платить за то, чтобы они лежали на полках в магазине.

Toyota и Honda создали сложные цепочки поставщиков, каждому из которых по телефонному звонку сразу же доставляли необходимые детали. Было так, как будто целая отрасль промышленности представляла собой единый организм со своей гомеостатической системой управления.

Метод JIT оказался очень эффективным и быстро распространился по всему миру. Компании во многих уголках земного шара создавали цепочки поставок, работающих по этой системе. Эти модели легли в основу математических алгоритмов таких компаний, как Amazon, Federal Express и UPS.

Программное обеспечение для планирования графика работы может рассматриваться как экстраполяция принципов экономики Just-in-Time. Только вместо ножей для косилок или экранов мобильных телефонов заказанных прямо на ленту, она касается людей, и, как правило, таких, которым нужны деньги. Чем отчаяннее они нуждаются в деньгах, тем жестче компании могут гнуть их жизни под свои математические модели.

Современные рабы математики

Следует отметить, что компании принимают также меры к тому, чтобы работа не была слишком обременительной для жизни сотрудников. Они учитывают каждую копейку, связанную с расходами на замену сотрудника, который может уйти в отставку.

Используются также другие модели, позволяющие снижать явления отказа, которое снижает эффективность работы предприятия и его прибыль. С точки зрения работников проблемой является избыток желающих устроиться на низкооплачиваемую работу. Этот крайне высокий спрос связан с дефицитом эффективных профсоюзов и лишает сотрудников почти всей переговорах. Это, в свою очередь, означает, что большие розничные и сетевые рестораны могут подчинить жизнь сотрудников всё более и более абсурдным графикам работы, не беспокоясь о чрезмерном росте числа увольнений. Компании зарабатывают всё больше денег, в то время, как жизнь сотрудников превращается в ад.

Поскольку программы оптимизации используются повсюду, сотрудники слишком хорошо знают, что смена работы – это очень небольшой шанс на улучшение. Описанная ситуация даёт корпорациям возможность рассматривать рабочую силу почти как рабскую.

Программное обеспечение для планирования графика работы основано на токсичном цикле обратной связи. Достаточно взглянуть на Джаннетт Наварро. Хаотичное планирование привело к тому, что она не могла продолжать обучение, она отказалась от него и лишила себя шансов на лучшее трудоустройство, то есть в многочисленной группе низкооплачиваемых сотрудников.

Долгие и нерегулярные часы работы затрудняют также объединение работников и борьбу за лучшие условия. Вместо этого, они испытывают страх и лишения сна, которые вызывают огромные колебания настроений и, по оценкам экспертов, являются причиной 13 процентов смертельных дорожно-транспортных происшествий.

Что ещё хуже, цель программы – экономия денег, снижение занятости работников ниже порога 30 часов в неделю, что исключает их из корпоративной медицинской страховки. Это похоже на то, что программное обеспечение специально предназначено для наказания и мучения низкооплачиваемых сотрудников.