“Умный город” или “Старший брат”? Как мэрия научилась знать о москвичах всё

Московские власти с видимым удовольствием рапортуют об имеющихся у них \”технических возможностях\” для контроля за режимом самоизоляции. Эти возможности – лишь малая часть масштабной системы \”Умного города\”, которая строится в столице уже около десяти лет. Но при необходимости \”Умный город\” легко становится \”Старшим братом\”.

16 марта, в день, когда мэр Москвы Сергей Собянин ввел первые ограничения в столице из-за коронавируса, сотрудник одного из федеральных телеканалов по имени Павел получил SMS от пользователя с ником DIT_MOS.

\”Вы недавно прилетели из Испании – страны с неблагоприятной ситуацией по коронавирусу\”, – сходу удивил Павла DIT_MOS. И далее, ссылаясь на указ мэра Москвы, безапелляционно потребовал самоизолироваться на две недели вместе с близкими.

Адресные сообщения под этим ником рассылал департамент информационных технологий (ДИТ) столичной мэрии. Одновременно аналогичное сообщение пришло на личную электронную почту Павла, но уже от департамента здравоохранения Москвы.

Павел разместил скрин SMS у себя в \”Фейсбуке\”: его удивило, что чиновники прислали предупреждение спустя две недели после его прилета из Барселоны, когда он мог уже заразить добрый десяток человек. На следующий день в \”личку\” к Павлу пришел администратор официальной группы ДИТ и принес извинения за \”несвоевременную отправку сообщения\”.

\"смс\"
Подобные sms мэрия Москвы рассылала всем, кто вернулся из стран, где уже была зафиксирована эпидемия коронавируса

Между тем, в комментариях к посту Павла развернулась дискуссия, откуда мэрия получила его контакты. \”Слил \”Аэрофлот\”?\” – предположил один из его друзей.

На самом деле, мэрия Москвы не нуждается в том, чтобы контактные данные жителей города им присылал кто-то еще. Построенная столичными властями система сама умеет находить номера телефонов, адреса электронной почты, отслеживать комментарии в соцсетях и еще многое другое.

Создателям системы ожидаемо не нравится, когда ее называют \”Старшим братом\” – они предпочитают термин \”Умный город\”.

\”Мы всегда думали об удобстве и безопасности, а не о контроле. Все те решения, которые были внедрены, это не \”Старший брат\”, это друг и помощник\”, – заявил Би-би-си один из создателей этой системы, экс-глава ГКУ \”Информационный город\” Алексей Чукарин.

Москва в этом смысле не уникальна – подобные системы внедряются во многих странах мира. И везде речь на самом деле идет о \”безопасном городе\”, а прилагательное \”умный\” используется для того, чтобы \”граждане не напрягались\”, уверен глава АНО \”Информационная культура\” Иван Бегтин.

\”Такие технологии несут пользу для людей, но и одновременно содержат в себе элементы контроля и мониторинга, которые могут неожиданно проявить себя в экстремальных ситуациях. У нас такой ситуацией оказалась эпидемия коронавируса\”, – говорит Бегтин.

Русская служба Би-би-си поговорила с чиновниками и сотрудниками IT-компаний, а также изучила около полусотни госконтрактов, чтобы понять, насколько умной стала Москва и на что она способна в роли всевидящего и всезнающего \”брата\”.

\”Дайте мне общую картину\”

\”Дайте мне город в режиме онлайн\”, – такую задачу поставил Сергей Собянин сразу после назначения мэром Москвы осенью 2010 года, говорит бывший высокопоставленный сотрудник мэрии.

С 2008 года и вплоть до назначения столичным мэром Собянин возглавлял аппарат правительства России, где, в том числе, курировал программу \”Информационное общество\” и перевод государственных услуг в цифровой формат.

\"Собянин\"
Вскоре после назначения Собянина началась реализация масштабной программы \”Информационный город\”, впоследствии переименованной в \”Умный город\”

\”Он был прогрессивным человеком, а тут [в мэрии] столкнулся с тем, что не видно ничего – ни в образовании, ни в медицине, ни в транспорте. Не было известно, сколько у нас врачей, учителей. Он поставил задачу – дайте мне общую картину\”, – говорит бывший сотрудник московского правительства.

В то время Москва не была лидером в области цифровых услуг, и по уровню внедрения сервисов \”электронного правительства\” находилась где-то в четвертом десятке среди других регионов страны. Например, лишь 10% больниц, школ и учреждений культуры имели доступ к интернету со скоростью свыше 10 Мбит/с, а на 100 медицинских работников приходилось 20 компьютеров (справка к госпрограмме \”Информационый город\”).

Уже через пять дней после прихода в мэрию Собянин назначил 34-летнего Артема Ермолаева на пост главы комитета информационных технологий (сейчас – департамента). Собянин знал его по работе над федеральным порталом госуслуг: Ермолаев занимался этим проектом в должности начальника департамента в министерстве связи.

Через три года Собянин повысил Ермолаева до уровня министра столичного правительства. Молодой технократ возглавлял департамент до осени 2018 года, именно его команда создала масштабную систему сбора и анализа данных москвичей, которая впервые стала заметной во время эпидемии коронавируса.

С 2012 года из бюджета Москвы на эти цели было выделено около 500 миллиардов рублей (с учетом средств, которые будут потрачены в 2020 году), следует из отчетов мэрии по исполнению программы \”Информационный город\”.

\"Ермолаев\"
С 2010 по 2018 год департамент информационных технологий возглавлял Артем Ермолаев

В качестве ориентира и ролевой модели был выбран Сингапур, вспоминает экс-сотрудник мэрии: в этом городе-государстве строилась система \”умного города\”, которая была запущена в 2014 году. Она, например, включала в себя разветвленную сеть камер видеонаблюдения и установленные во все машины датчики, позволяющие оперативно собирать данные о пробках.

Власти Сингапура любили демонстрировать и другие чудеса новой системы. В 2013 году они показательно оштрафовали на 14 тысяч долларов человека, который выбрасывал окурки из окна квартиры: его выявили вездесущие камеры наблюдения, писал Wall Street Journal.

Уже в 2018 году Москва заняла первое место среди 40 городов мира с наиболее высоким уровнем развитием электронного правительства в рейтинге, который готовит ООН. Лидирует столица и в рейтинге \”Цифровая Россия\”, выпускаемом в Сколково. Москва перевела в электронный вид почти 260 госуслуг и сервисов, ввела полностью дистанционную запись к врачу, запустила интеллектуальную транспортную систему управления трафиком, создала единый диспетчерский центр, в которой можно пожаловаться по любой проблеме – от протечки в квартире до запаркованной на газоне машины.

Город стал удобнее для его жителей, и это главный аргумент создателей \”Умного города\” в бесконечном споре с теми, кто полагает, что на самом деле в столице был построен аналог \”Старшего брата\” из антиутопии \”1984\”.

\"Сколько

Сейчас у московской мэрии есть около 170 разнообразных информационных систем. В общей картине люди – лишь часть огромного конгломерата данных, наряду с дорогами, автомобилями, зданиями, канализацией, торговыми палатками, детскими площадками и всем прочим, из чего состоит город. Мэрия наблюдает за всем сразу.

\”Конкретный человек нас не интересовал, нам нужны были обобщенные данные по различным группам\”, – убеждает один из собеседников Би-би-си. Но в случае необходимости – например, в условиях эпидемии коронавируса – с помощью тех же самых систем можно следить и за любым конкретным человеком.

В официальных документах московские базы данных, системы управления и мониторинга проходят под непроизносимыми аббревиатурами вроде СППРиУИР, АМиПМ или КИАСОУММ.

Первая, например, автоматически мониторит СМИ и социальные сети в поисках упоминаний мэра и членов столичного правительства и занимается определением \”медиа-рисков\”. Вторая – служит Собянину своеобразным личным Google Calendar, через который он может планировать свой график, переписываться с помощниками и даже проверять, прочитали ли его подчиненные последние публикации об их деятельности.

Что еще умеют системы московской мэрии? Что они знают о нас?

Массивы сотовых данных

Главные помощники столичной мэрии – операторы сотовой связи. \”Сотовые операторы знают о нас гораздо больше, чем город, они видят все наши передвижения. Мы готовы выйти без кошелька и паспорта, но не готовы оставить дома телефон. Почему? Потому что с ним удобно\”, – говорит один из собеседников Би-би-си.

В одной из презентаций ДИТа к принятой в 2018 году стратегии Москвы \”Умный город – 2030\” есть показательная картинка. В центре расположены три голубых компьютерных сервера. Это – искусственный интеллект, он получает информацию из различных источников, анализирует ее и выдает готовые решения правительству и бизнесу.

\"Mos.ru\"
Отрывок из презентации московской стратегии \”Умный город – 2030\”

Один из источников данных на картинке – спешащий куда-то мужчина в оранжевых штанах. Пока он беззаботно шагает по Москве, искусственный интеллект получает данные с его мобильного телефона, информацию о его местоположении и объединяет с информацией о потребленном им контенте и полученных услугах – от выдачи паспорта до похода к врачу.

Только ждать 2030 года не нужно – мэрия уже получает эту информацию о мужчинах и женщинах в штанах или юбках любого цвета.

Частично это обычная официальная информация, которой власти обладали и раньше, просто теперь она переведена в электронные базы данных. Данные о браках, разводах и детях хранятся в \”едином информационно-телекоммуникационном пространстве\” ЗАГС. Все обращения к врачам – в единой медицинской системе. В системе единого расчетного центра (ЕИРЦ), который отвечает за выставление коммунальных квитанций, есть данные о тех, кто зарегистрирован в квартире сейчас и о тех, кто давно выписался оттуда (так называемые \”домовые книги\”).

Но теперь у мэрии есть и данные, которыми раньше она не обладала. Например, жители города массово живут не по месту официальной регистрации или вовсе без нее. Для получения достоверной информации о месте жительства и перемещениях жителей столицы мэрия с 2015 году закупает геоаналитические данные от сотовых операторов.

По сути, это информация о том, к каким базовым станциям подключались телефоны москвичей и с каким интервалом каждый телефон переходил от одной вышки к другой, поясняет топ-менеджер data-компании, сотрудничающей со столичным правительством. Эти данные позволяют узнать очень многое.

Например, по скорости переподключения абонента от одной вышки к другой понятно, идет он по улице пешком или едет на автомобиле, а по тому, к какой станции телефон чаще всего подключен в ночное время – где именно человек ночует, а значит, живет.

\"сотовая
Передвижения любого москвича легко отследить по информации с базовых станций сотовых операторов

Поначалу сотовые компании не хотели делиться с правительством Москвы информацией о своих абонентах. \”Проблема была в том, что нужно было покупать не у конкретного, а у всех операторов сразу. Каждый из них по отдельности боялся, что мы передадим конкурентам данные о количестве абонентов\”, – рассказывает бывший высокопоставленный сотрудник мэрии.

\”Операторов сильно уламывали, чтобы они делились\”, – подтверждает топ-менеджер data-компании, сотрудничавший с мэрией. В 2015 году компании из \”большой четверки\” сдались и предоставили чиновникам доступ к информации о передвижении граждан по Москве и Московской области. В обмен мэрия стала активно помогать им решать проблемы с собственниками зданий, которые не всегда хотели ставить на них новые вышки для повышения качества сигнала сотовой связи.

В Tele2 утверждают, что обезличенные сотовые данные – коммерческий продукт, и в компании впервые слышат об административной помощи со стороны мэрии. В МТС и \”Вымплелкоме\” (бренд \”Билайн\”) не стали комментировать сотрудничество со столичным правительством, в \”Мегафоне\” не ответили на запрос Би-би-си.

Данные операторы передают мэрии не напрямую, а через посредника – например, через Аналитический центр при правительстве России, обращали внимание \”Ведомости\”. В общей сложности с 2015 года на закупку геоаналитической информации из бюджета Москвы было выделено более 700 млн рублей (включая затраты 2020 года), следует из информации на сайте госзакупок. В конце марта последний контракт истек, новый пока не опубликован.

За эти деньги мэрия получает так называемые \”обезличенные\” отчеты о количестве абонентов, проживающих и работающих в разных районах города с разбивкой по секторам размером 500 на 500 метров, а также о том, куда они ходят и ездят каждый день.

\"метро\"
С помощью данных сотовых операторов мэрия Москвы предупреждает о закрытиях станций всех, кто проживает вокруг них, а не только официально зарегистрированных

Имея эту информацию, мэрия, к примеру, предупреждает жителей конкретного района о закрытии ближайших к ним станций метро. Такие сообщения от департамента транспорта столицы приходят не только тем, кто зарегистрирован в конкретном районе, но и тем, кто живет в нем без регистрации.

Геоаналитика используется и для расчета продовольственной обеспеченности районов: данные о реальных местах жительства людей накладываются на карту расположения торговых объектов, следует из отчета ДИТа за 2015 год. Кроме того, сотовые данные помогают понять, сколько людей на лето уезжают жить на свои подмосковные дачи или оценить туристический поток из других регионов России и зарубежных стран (в случае использования роуминга), следует из госконтрактов.

В мэрию отчеты поступают в обезличенном и агрегированном виде – не по каждому отдельному человеку, а сразу по большим группами людей, говорит топ-менеджер data-компании, работавшей со столичным правительством. Идентифицировать кого бы то ни было в этих обобщенных группах невозможно, уверяют в Tele2.

Данные о людях можно сегментировать по различным критериям – например, выделить абонентов определенного возраста. Благодаря этому, например, мэрия может видеть, сколько пенсионеров на самом деле соблюдает рекомендованный им режим самоизоляции. \”По данным геотаргетинга мобильных телефонов, две трети пожилых абонентов (65+) ведут себя ответственно и не выходят из дома\”, – похвалил их Сергей Собянин 28 марта в своем блоге.

Правда, в условиях эпидемии мэрия следит и за отдельными людьми – например, отправляя сообщения о необходимости самоизоляции пассажирам конкретного рейса. Эта форма контроля производится по другому регламенту и не в рамках контракта на покупку обезличенных агрегированных данных, говорит бывший сотрудник мэрии. Кроме того, в этом случае мэрия уже действует в связке с полицией, у которой больше полномочий такого рода, добавляет действующий сотрудник городского правительства.

\"пожилые\"
Геоаналитическая информация показывает мэрии, какой процент людей старше 65 лет остаются дома на время карантина

\”Это ЧСная ситуация [чрезвычайная], в рамках нее правительство обязывает операторов делать определенные действия. Например, по запросам МЧС они могут отправить жителям конкретного района предупреждение о шторме. По такому же принципу можно действовать, если есть необходимость мониторить определенных людей\”, – говорит он.

Все эти инструкции и регламенты – непубличные, говорит руководитель юридической практики общественной организации \”РосКомСвобода\” Саркис Дарбинян. \”Мы пытались их достать, но нам их не показывают\”, – говорит он.

В начале апреля министерство цифрового развития утвердило порядок слежки за носителями коронавируса на основании данных геолокации сотовых телефонов, отчасти легализовав тем самым практику, которая сложилась в столице в течение последних нескольких лет.

В особых случаях сотовые операторы и раньше передавали властям данные о местонахождении отдельных людей, вне режима чрезвычайной ситуации и без привлечения полиции. С 2018 года действует правило: когда житель Москвы вызывает \”скорую\” с мобильного телефона, в систему обработки вызовов городской станции скорой помощи поступает информация с точными координатами его местоположения – правда, пока человек все равно должен назвать свой адрес оператору скорой.

В годовом отчете ДИТа эта инициатива обоснована предельно гуманистически: так система может строить оптимальный маршрут для автомобиля скорой помощи.

Поездки как на ладони

Информация с сотовых вышек – не единственное \”сырье\”, которое московская мэрия получает от сторонних поставщиков данных.

С момента вступления первых ограничений в Москве из-за коронавируса департамент транспорта ежедневно публикует статистику и аналитику по передвижениям горожан на метро, автобусах и трамваях. В рапорты о том, что все \”сидят дома\”, входит и информация по использованию личных автомобилей, такси и каршеринга.

Например, в воскресенье 29 марта использование каршеринга упало на 36%, а такси – на 53% по сравнению с таким же выходным днем в 2019 году. Как следует из документации на создание элементов интеллектуальной транспортной системы, эти данные чиновники получают напрямую от крупнейших таксомоторных и каршеринговых компаний. Как указано в документах, данные передают \”Яндекс.Такси\”, \”Ситимобил\”, \”Везет\” и Gett.

\"ЦОДД\"
Данные о трафике на московских улицах стекаются в Центр организации дорожного движения

В Центре организации дорожного движения (ЦОДД подведомственен Дептрансу) подчеркивают: информация о передвижении автомобилей и каршеринга – это треки движения, которые не относятся к персональным данными. ЦОДД получает агрегированные и обобщенные отчеты, сообщили в \”Яндекс.Такси\” и \”Яндекс.Драйве\”. В \”Ситимобиле\” и \”Везет\” добавили, что информация передается в соответствии с двухсторонними соглашениями с мэрией. В Gett не ответили на запрос Би-би-си.

Система дает возможность в режиме реального времени отслеживать местонахождение любого такси или взятого напрокат автомобиля, а также узнать всю историю его передвижений. Мэрия также может выгрузить последние фотографии любого транспортного средства, сделанные развешанными по городу камерами фото- и видеофиксации нарушений.

Данные о передвижениях легковых такси и каршеринга в интеллектуальной транспортной системе комбинируются с информацией с датчиков системы ГЛОНАСС, установленных на городском транспорте – автобусах, трамваях и троллейбусах \”Мосгортранса\”, а также на уборочной технике.

Кроме того, например, в 2015 году мэрия договорилась с производителем противоугонных систем \”Цезарь-Сателлит\” о предоставлении данных о передвижении автомобилей по городу(информация из годового отчета ДИТа). Сейчас город не получает таких данных, уточнили в ЦОДДе. В \”Цезарь-Сателлит\” не ответили на запрос Би-би-си.

Система отслеживает и личный автотранспорт, благодаря все той же системе фото- и видеофиксации. \”Мы стали смотреть и анализировать миграцию личных автомобилей по всему городу, мы стали понимать, как люди перемещаются из одного района в другой. Нас не интересует, кто едет – вы или ваш муж или еще кто-то, нас интересует, сколько машин в каком направлении ездит и как этой реальной корреспонденции [траектории и количеству передвижений] соответствует маршрутная сеть\”, – рассказывал в 2019 году Би-би-си глава департамента транспорта Максим Ликсутов.

\"пробка\"
Основное назначение интеллектуальной транспортной системы Москвы – борьба с пробками

Мэрия имеет доступ к информации о владельцах автомобилей. Совместно с ГИБДД столичное правительство разработало систему \”Автокод\”, где можно проверить историю регистрации любого транспортного средства и наличие штрафов.

Не каждый регион может похвастаться таким уровнем обмена данных с силовиками: например, в Петербурге местные власти запустили платную парковку в центре еще в 2015 году, но до 2020 года не могли договориться с ГИБДД о передаче информации о владельцах автомобилей.

В итоге, зафиксировав нарушение, администрация парковочного пространства не могла найти нарушителя – госавтоинспекция не раскрывала, на кого зарегистрирован автомобиль, и штрафы по сути выставлялись в пустоту, писала \”Фонтанка\”.

Вся эта совокупность информации дает мэрии возможность отслеживать передвижения людей, обязанных самоизолироваться: например, инфицированных коронавирусом или их близких родственников. \”Мы видим все машины тех, кто должен на карантине сидеть, которые передвигаются по городу\”, – сказал 9 апреля в интервью РИА Новости Собянин. Но мэрия в этом случае действует не одна, а в связке с ГИБДД, говорит собеседник, близкий к департаменту транспорта.

Cookies и другие следы в интернете

Незадолго до выборов мэра Москвы в 2018 году популярные блогеры внезапно и синхронно стали рассказывать о достижениях Сергея Собянина на этом посту. Несмотря на все признаки спланированной кампании, в штабе мэра отрицали причастность к ней.

Список достижений Собянина кочевал из ролика в ролик, из поста в пост. Чаще всего упоминалась реформа транспорта, благоустройство улиц, а также бесплатный общественный Wi-Fi на улицах и в парках.

Оснащение городских пространств сетью бесплатного интернета началось вскоре после назначения Собянина на должность мэра. \”Сейчас столичная сеть Wi-Fi – одна из самых крупных в мире\”, – гордо написал он в своем блоге осенью 2019 года.

На конец 2018 года на улицах в пределах Третьего транспортного кольца действовало около 2 тысяч Wi-Fi-точек, к которым за год подключились более 665 тысяч человек, следует из отчета ДИТа. Бесплатным интернетом можно воспользоваться в городских парках, библиотеках и музеях. За счет мэрии Wi-Fi получили студенты около 30 московских вузов, причем не только в учебных корпусах, но и в общежитиях.

\"Москва\"
В Москве бесплатный Wi-Fi раздают даже навигационные стелы

В 2019 году столичное правительство решило объединить управление всеми точками в руках одного оператора: конкурс стоимостью 150 млн рублей выиграла компания \”Максимателеком\”. Она же с 2013 года обеспечивает работу Wi-Fi в московском метро, но там все устроено иначе: пользователь либо платит за услугу, либо просматривает рекламу перед подключением.

По новому контракту компания не занимается обеспечением доступа в интернет: она должна запустить единое окно авторизации и внутренний портал статистики. С его помощью чиновники смогут увидеть, например, с каких телефонов москвичи пользуются Wi-Fi. Больше того – оператор вправе использовать технологию DPI для анализа трафика.

DPI – сокращение от английского deep packet inspection, \”глубокий анализ пакетов\”. DPI представляет собой программно-аппаратный комплекс, который выделяет в общем потоке трафика конкретные сайты или приложения. Именно DPI российские власти выбрали для борьбы с Telegram и другими нежелательными ресурсами, тестирование системы началось в конце 2019 года. Эта же технология поможет чиновникам мэрии понять, какие ресурсы чаще всего посещают москвичи.

Так, отдельно в портале статистики можно посмотреть, какие доли приходятся на шифрованные соединения, торрент-сервисы или просмотр видео. Отдельный раздел посвящен самым популярным у пользователем мессенджерам и топ-100 самых посещаемых ресурсов.

\"Wi-Fi\"
Оператор единой сети Wi-Fi предоставляет мэрии отчет о типах трафика (график из госконтракта)

Согласно государственному контракту, в портале статистики доступны детальные портреты пользователей, составленные на основании того, что именно они делают и ищут в сети. Каким образом формируются такие портреты?

Вся информация о действиях посетителя на конкретном сайте записывается в cookies. Те, кто имеет доступ к трафику, сопоставляют их друг с другом. Действия, которые с большой вероятностью делал один и тот же человек, объединяются вместе. Так формируется обезличенный профиль пользователя, рассказывает директор крупной data-компании.

Всех подключавшихся к бесплатному городскому Wi-Fi \”Максимателеком\” группирует по социально-демографическим признакам – пол, возраст, состав семьи, наличие автомобиля и даже по \”жизненными ситуациям\”, следует из документации.

Портреты могут быть максимально детальными. Вот фрагмент одного из контрактов мэрии на анализ трафика городского Wi-Fi с другой компанией. \”Для характеристики \”имеет автомобиль\” аналитики настраивают набор качественных параметров: посещение сайтов парковок, магазинов интернет-запчастей, автосервисов и шиномонтажей; просмотр сайтов удаленных городских объектов (до которых проще добираться на автомобиле).

В \”Максимателеком\” воздержались от комментариев.

Еще один источник данных о поведении горожан в интернете – сайт mos.ru и связанные с ним ресурсы вроде \”Активного гражданина\” или \”Нашего города\”. В 2018 году общая посещаемость порталов и мобильных приложений семейства mos.ru составила 652 млн визитов (так, через сайт мэрии прошли почти 300 млн обращений за госуслугами). В марте 2020 года, на фоне эпидемии коронавируса, трафик mos.ru вырос более чем на 50% по сравнению с предыдущим месяцем и составил почти 60 млн визитов.

Для собственных ресурсов мэрия в 2017 году начала разработку специальной системы анализа интернет-активности пользователей с шипящим названием \”СТАТС\”.

\"ноутбук\"
Мэрия собирает данные о посетителях всех своих многочисленных ресурсов в сети

Через собственный трекер мэрия не просто собирает базовую статистику о том, сколько пользователей заходят на городские ресурсы. В отчеты идет о информация об IP, стране и браузере пользователя. Следующая задача – составить портрет посетителей.

СТАТС умеет работать даже с теми посетителями mos.ru, которые сознательно включили режим \”инкогнито\” в своем браузере, тем самым лишив владельцев сайта собирать cookies. Для этого используется технология fingerprint (от английского \”отпечаток пальца\”), которая является своего рода цифровым аналогом взятия отпечатков пальцев. Только вместо рук – уникальные свойства конкретного смартфона, планшета или ноутбука.

Например, fingerprint сообщает часовой пояс устройства, языковые настройки, размер экрана, класс процессора. С помощью нее можно понять, кто приходит к тебе на сайт даже в том случае, если он использует разные браузеры на своем компьютере.

Собирая детальную информацию, СТАТС может определять, впервые ли гражданин на mos.ru или уже заходил на него. Если это не первое посещение, система объединяет все сессии вместе и выводит закономерности из действий человека – например, какие услуги ему необходимы или чем он интересуется. Базовые группы, доступные в системе: одиночные посетители, домохозяйства, схожие социальные группы (например, работники одной компании или представители одинаковой профессии).

Как следует из госконтрактов, внутри этих статистических отчетов могут содержаться и социально-демографические показатели: пол, возраст, доход, семейное положение. Система также умеет находить связь между пользователями внутри группы – например, объединить вместе мужа, жену и детей, если они тоже посещают mos.ru.

\"госконтракт\"
Мэрия с большой точностью знает, кто заходит на ее сайты (скрин из госконтракта на развитие системы СТАТС)

При подготовке этой статьи корреспонеднт Би-би-си впервые зашел на сайт \”Активного гражданина\” и проглядел его в течение нескольких секунд, не производя никаких действий. На следующий день мэрия прислала письмо на личную почту, указанную при регистрации в системе столичных госуслуг. \”Более 2 миллионов москвичей стали участниками проекта \”Активный гражданин\”. Мы очень рады, что вы тоже проявили интерес к проекту\”, – говорилось в нем.

Мэрия также собирает их биометрические данные москвичей – их изображения и образцы голоса.

Камеры узнают вас

В конце февраля в Москве был зафиксирован первый официальный случай заболевания коронавирусом. Выяснив, что инфицированный прилетел рейсом из Милана, власти решили посадить на карантин всех его пассажиров.

Один из них, молодой человек по имени Артем, честно исполнял предписание врачей и несколько дней не выходил из квартиры. Но потом все же решил вынести мусор. Контейнерная площадка, куда он отнес пакет, находится \”в пяти секундах медленного шага от подъезда\”, рассказывал Артем изданию \”Медиазона\”. Но уже через два дня к нему приехали полицейские и выписали штраф \”за невыполнение предписаний должностного лица\”.

\"камеры\"
Во время карантина система видеонаблюдения используется для контроля за теми, кто должен находиться на самоизоляции

Среди документов, приложенных к протоколу, была распечатка с фотографией Артема, на которой он выходит из подъезда, писала \”Медиазона\”.

К середине марта городская система видеонаблюдения помогла столичным властям выявить более 200 нарушителей карантина, рассказывал в Мосгордуме глава московской полиции Олег Баранов.

Городская система видеонаблюдения – еще один масштабный проект эпохи Сергея Собянина. В конце 2013 года – через два года после его назначения – на площадях и самых популярных улицах Москвы работали около 1700 камер, еще 95 тысяч наблюдали за всем, что происходит во дворах и возле подъездов (годовой отчет ДИТа).

В начале 2020 городская система видеонаблюдения объединяла уже более 175 тысяч камер, подключенных к единому центру хранения и обработки данных (ЕЦХД). В ближайших планах – увеличить их количество до 200 тысяч. Это не только уличные камеры, но и те, что установлены в учреждениях, поликлиниках, рынках и школах.

И это без учета мобильных камер: мэрия закупает планшеты и телефоны, с помощью которых сотрудники полиции и чиновники могут вести прямую трансляцию с массовых мероприятий – например, с митингов. Видеопотоки с мобильных камер подключены к ЕЦХД.

Даже сейчас Москва – далеко не мировой лидер по количеству камер: в августе 2019 года российская столица занимала лишь 18 место в рейтинге городов с самой разветвленной сетью видеонаблюдения (11,7 камер на 1000 жителей), подсчитал исследовательский портал Comparitech на основании открытых данных. Первые восемь мест занимают китайские города, выше Москвы – Лондон, Атланта, Сингапур, Чикаго.

\"система
Пример использования системы видеонаблюдения из презентации замначальника ГУ МВД по Москве

Но Москва уже повсеместно внедрила технологию распознавания лиц и сделала это, например, раньше Лондона. Как следует из отчета Comparitech, активнее всех такие технологии запускают в Китае. Делегация столичных чиновников в 2019 году посетила несколько китайских городов и изучила их системы обработки записей с уличных камер, рассказывал замглавы департамента внешнеэкономических связей Москвы Илья Кузьмин.

Для Москвы была выбрана российская технология от компании NTechLab, которая в свое время разработала FindFace – неработающий сейчас портал для поиска людей во \”ВКонтакте\” по изображению. Нейросеть NTechLab позволяет обнаружить четырех из пяти разыскиваемых, лица которых хоть раз были зафиксированы хотя бы одной камерой, а время поиска человека в базе из 1 млрд снимков занимает не более 10 секунд, следует из презентации компании.

В интервью The Bell сооснователь сервиса Александр Кабаков говорил, что алгоритм распознает лицо, даже если человек использует для маскировки очки, усы или бороду. \”У нас уже были истории, когда распознавались люди в мотоциклетных шлемах, так что [медицинская] маска вряд ли сработает для защиты от алгоритма\”, – говорил он.

\"система
Пример использования системы распознавания лиц при проведении матчей ЧМ-2018 из презентации замначальника ГУ МВД по Москве

Тестирование системы распознавания лиц началось в Москве в августе 2017 года – сначала на 1500 камерах. Во время чемпионата мира по футболу в 2018 году на входах на стадионы и фестиваль болельщиков работали уже более 450 специальных камер, которые автоматически сверяли лица всех заходящих с предварительно загруженной базой из 45 тысяч фотографий. За время чемпионата было задержано 19 человек, находившихся в федеральном розыске, и 49 человек, которых власти отнесли к опасным футбольным фанатам.

В начале 2020 года Сергея Собянин заявил, что городская система видеонаблюдения уже полностью подключена к системе распознавания лиц, а к сентябрю \”умными\” станут и все камеры в метро (видеокамерами оснащены все станции и все вагоны метро). Распознавать лица умеют все камеры, которые сейчас устанавливаются на турникетах.

\”Свой\” или \”чужой\”

Сейчас система обрабатывает несколько десятков миллионов лиц в сутки, миновать ее практически невозможно за счет оснащения камерами большей части подъездов, уверяет бывший высокопоставленный сотрудник мэрии, который занимался ее внедрением. В начале февраля 2020 года в Москве работало более 100 тысяч камер, подключенных к системе распознавания лиц, говорил представитель ДИТа.

Чтобы найти в потоке видео нужного человека, нужна его фотография-образец, и у мэрии она обычно есть. Для Артема из материала \”Медиазоны\” образцом, вероятно, было его фото из загранпаспорта: на принесенной полицией распечатке оно стояло рядом с изображением из системы видеонаблюдения.

\”Допустим, мы знаем фамилию пассажира и его телефон. Если человек живет в Москве, он не мог не использовать государственные сервисы, и там не могла не сохраниться фотография, пусть и старая\”, – рассказывает экс-сотрудник мэрии. В ход идут не только фото из паспорта, но даже те, которые были сделаны когда-то для льготных проездных школьника или студента, говорит он.

В случае с заболевшими коронавирусом искать старые фото не нужно: врачей обязали делать фотографии всех находящихся на карантине, говорит высокопоставленный собеседник в мэрии. Об этом же Би-би-си рассказала москвичка, у отца которой обнаружили коронавирус в легкой форме: врачи скорой сфотографировали на планшет семью заболевшего и обязали всех не выходить из дома в течение двух недель.

Поиск людей по фотографии-образцу идет внутри всей системы видеонаблюдения, человека можно поставить на контроль, даже если он не живет по адресу регистрации. Машина, ежедневно обрабатывая изображения москвичей, ранжирует их по принципу \”свой – чужой\”: тех, кто входит и выходит из одного и того же подъезда постоянно, относит к \”своим\”, новичков – к \”чужим\”, рассказывает собеседник Би-би-си.

\"система
Пример использования системы распознавания лиц из презентации замначальника ГУ МВД по Москве

Судя по фрагменту размещенной в открытом доступе презентации замначальника ГУ МВД по Москве Александра Половинки, пользователь системы может уточнять и детализировать поиск в системе – заставить ее искать человека только среди \”своих\”, только среди \”чужих\”, или искать похожие изображения. Можно указать, за какой период нужны снимки и даже выставить точность совпадения с образцом – от 50% до 100%.

Системы московской мэрии умеют анализировать и голоса москвичей: с 2015 года все беседы горожан с сотрудниками единой городской диспетчерской службы не только записываются и затем автоматически расшифровываются в текст, но и оцениваются алгоритмами с точки зрения \”эмоционального фона беседы\”, следует из годового отчета ДИТа. Назначение технологии – определить, какие проблемы вызывают самую сильную реакцию москвичей, указано там же.

В 2018 году подведомственное мэрии АО \”Электронная Москва\” провело апробацию технологии по автоматическому распознаванию бесед сотрудников сервиса \”Мои документы\” с посетителями центров госуслуг.

Задача, поставленная мэрией перед подрядчиком, – уметь выделять в беседах \”стоп-слова\”, \”стоп-фразы\” и \”слова-конфликтогены\”, чтобы в дальнейшем автоматизировать оценку качества обслуживания. Согласно контракту, система должна записывать все разговоры сотрудников с клиентами, чтобы отслеживать негативные ситуации по ключевым словам.

В этом проекте тестировалась технология компании \”Агат-РТ\”. Один из ее собственников Дмитрий Ветошкин не стал отвечать на вопросы Би-би-си.

В стратегии \”Умный город – 2030\”, принятой в 2018 году, указано: для борьбы с преступностью, помимо системы видеонаблюдения, будут внедрены средства \”акустического контроля\”. Какие именно средства, не уточняется.

Возможно, речь идет о чувствительных уличных микрофонах: такие устройства уже установлены в ряде городов США и других стран. Их основная задача – распознавать звуки выстрелов, с помощью триангуляции определять их местонахождение и отправлять координаты оператору или ближайшему патрульному экипажу. Они также способны \”узнавать\” человека по образцу голоса и записывать разговоры: таким образом, с мест совершения преступлений полиция может получать записи не только видео, но и аудио.

12 марта Би-би-си запросила профильный департамент информационных технологий об интервью с главой ведомства Эдуардом Лысенко, прислав блок тем, о которых планировалось поговорить. Интервью не состоялось, 6 апреля Би-би-си отправила список из конкретных вопросов. В ДИТе пообещали ответить в течение семи дней, Би-би-си обязательно добавит ответ к этой статье.

\”А что говорят данные?\”

За десять лет задачи IT-команды Сергея Собянина сильно изменились. В первые годы она больше занималась созданием цифровой инфраструктуры: закупкой компьютеров для учреждений, затем базовыми электронными системами вроде интеллектуальной транспортной или единой медицинской.

\”На совещаниях по многим проблемам Собянин стал говорить: \”А что говорят данные?\” Часто получалось – докладывается одно, а по данным картина получается совершенно иная\”, – вспоминает бывший сотрудник мэрии. Постепенно менялось отношение и к IT-команде мэрии, участников который сначала воспринимали едва ли не как людей, которые должны заниматься настройкой компьютеров.

\"Собянин\"
\”А что говорят данные?\” – так любит говорить подчиненным мэр Москвы Собянин

Приблизительно в 2015 году мэрия пришла к идее, что пора создавать обобщающие системы, которые смогут использовать данные из разных источников. Задача таких систем – не хранить однотипную информацию вроде разрешений на строительство и номеров свидетельств о браке. Они, словно искусственный интеллект из фантастических фильмов, должны отвечать на сложные вопросы и уметь предсказывать будущее.

Внедрение сложных алгоритмов, которые принимают решения за человека, – логичный этап, следующий за простым сбором данных, говорит глава АНО \”Информационная культура\” Иван Бегтин, такие системы есть уже во многих странах мира.

В Москве разработаны несколько \”обобщающих систем\”, призванных отвечать на любимый вопрос мэра и запросы других чиновников.

В 2015-2016 годах департамент территориального развития получил инструмент за контролем ситуации в префектурах: в официальных документах он называется ИАС ДТОИВ. Как указано в госконтракте, его задача – \”выявление, мониторинг, предупреждение, планирование действий и принятие решений по ситуациям, связанным с реализацией государственной политики в сфере территориального управления\”.

Примерно тем же самым занимается известная американская компания Palantir, которая по заказу американских силовиков переваривает огромный массив данных из разных источников и ищет в них признаки готовящихся преступлений или терактов.

ИАС ДТОИВ умеет аккумулировать и прогонять через себя данные из нескольких источников.

Во-первых, из системы мониторинга криминогенной ситуации, совместной базы данных мэрии и полиции, куда стекается информация обо всех преступлениях и хранится архивная информация о примерно 5 млн правонарушениях. Данные о штрафах, грабежах и убийствах собираются в ней не только для статистики: система умеет выявлять нетипичную динамику по преступлениям, а также мониторить общественное мнение об уровне безопасности в Москве. В том числе – на основании поисковых запросов граждан в интернете.

Во-вторых, из \”Единого геоинформационного пространства города Москвы\” – это еще один большой проект мэрии, решившей нанести на электронную карту все городские объекты, в том числе в виде полноценных панорам.

В-третьих, ИАС ДТОИВ подгружает и анализирует данные из СМИ и соцсетей. Раньше для этого использовались ресурсы компании \”Медиалогия\”, но мэрия решила создать свой инструмент для анализа публикаций в интернете – сейчас это часть \”системы управления информационными рисками аппарата мэра\”.

Как ДТОИВ использует весь этот массив данных? Из госконтрактов следует одна из ее задач – предупреждение возможного недовольства жителей новым строительством в своем районе, то есть выявление потенциальных конфликтов.

\"митинг\"
Одна из задач ИС ДТОИВ – выявлять потенциальные конфликты, связанные с уплотнительной застройкой

Для этого в ДТОИВ есть весь набор данных: программа проводимых слушаний, в том числе по программе реновации, сводка по правонарушениям, в том числе связанным с акциями протеста, и полная выгрузка из медиа и социальных сетей по ключевым словам.

В самом департаменте территориальных органов власти не ответили на запрос Би-би-си. В общей сложности на создание и поддержку ИАС ДТОИВ было потрачено более 300 млн рублей.

Нейросеть мэрии

Если ДТОИВ направлена на решение узкопрофильных задач, то \”система управления данными в распределенной вычислительной среде\” (ИС УДРВС) может использоваться для очень разных целей – от медицины до анализа интернет-активности горожан.

Она анализирует все данные, содержащиеся в информационных системах и ресурсах мэрии, без их объединения в рамках одной платформы, объясняет руководитель IT-компании, сотрудничающий с ДИТом.

\”Такая форма более безопасна – данные не объединяются в одну баночку, просто пишется алгоритм, который знает, где их брать\”, – объясняет собеседник Би-би-си. Система работает по принципу машинного обучения, то есть сама учиться решать поставленную задачу.

\"нейросеть\"
Пример использования машинного обучения для анализа трафика общедоступного Wi-Fi

Разработка ИС УДРВС началась в 2016 году, а уже в 2018-м она использовалась на практике. Например, для выявления \”серой аренды\” квартир – когда люди сдают свое жилье, но не платят налоги. В официальном отчете ДИТа за 2018 году этот механизм назван \”Прогнозирование фактов в отношении аренды\”.

Для поиска \”серых\” квартир система анализировала информацию о регистрации людей, сотовые данные, данные о парковках, а также просматривала историю коммунальных платежей, платежей за детский сад и другие образовательные услуги, рассказывает бывший сотрудник мэрии. \”Допустим, вы зарегистрированы в одном месте, а за садик и электричество платите в другом, где одновременно еще и паркуетесь\”, – объясняет он принципы анализа.

Как мэрия использовала новое знание, неизвестно. \”Насколько я знаю, это был всего лишь эксперимент\”, – скептичен руководитель IT-компании, которая сотрудничает с ДИТом

Еще один пример использования машинного обучения при работе с большими данными мэрии – медицина. В 2018 году был проведен эксперимент: в систему были загрузили 100 тысяч ретроспективных снимков больных раком, и затем пыталась определить, когда именно началось развитие болезни. Параллельно ту же задачу выполняла группа онкологов (врачам не сказали об участии в проекте искусственного интеллекта). В результате в 6-7% случаев люди не заметили отклонений, которые могли привести к раку, а искусственный интеллект сообщил о них. \”Эта машина спасла человеческие жизни\”, – рассказывает собеседник, знакомый с этим экспериментом.

\"нейросеть\"
Машинное обучение использовалось для анализа ретроспективных снимков онкобольных

Осталось ли хоть что-то, чего мэрия не знает о москвичах?

В ДИТе изучали возможность подписания соглашений с несколькими банками для получения финансовой информации их клиентов, однако в итоге от проекта решили отказаться, говорит экс-сотрудник мэрии. С какими именно банками и почему договориться не удалось, он не уточнил.

Но примерное представление о финансовом положении каждого москвича у мэрии все равно есть. Во-первых, через городские ресурсы идут платежи за ЖКХ и другие госуслуги – более 6,6 млн транзакций на 19 млрд рублей в 2018 году. Во-вторых, власти города знают, какими квартирами и автомобилями владеют (или не владеют) горожане, добавляет собеседник Би-би-си.

Мэрия Москвы обладает практически всей информацией о горожанах и использует ее для собственных, очень разных целей. Насколько законно столь массовое использование личных данных миллионов людей?

Все на \”пробив\”

\”Все это обезличенные данные\”, – этим словами высокопоставленный сотрудник мэрии заканчивает рассказ о системе контроля за соблюдением карантина теми, кто общался с зараженными коронавирусом.

Обезличенные данные в системе, которая следит за перемещением людей по их фото и запрашивает их контакты у сотовых операторов? Звучит странно.

\"Лысенко\"
С сентября 2018 года департамент информационных технологий возглавляет Эдуард Лысенко

И мэрия Москвы, и все остальные участники российского рынка персональных данных все время подчеркивают, что работают с \”обезличенными\” данными. К этому их обязывает действующий закона \”О персональных данных\”, в котором нет четкого регламента их оборота, но указано, что обезличивание – это форма обработки личной информации, в результате которой человека нельзя будет идентифицировать.

С 2018 года, в рамках программы \”Цифровая экономика\”, правительство пытается уточнить правила оборота \”обезличенных персональных данных\”. Однако обширного изменения законодательства в этой области так и не произошло, отмечает партнер юридического бюро Pen&Paper Екатерина Тягай.

В этих условиях многое зависит от позиции регулятора, которым в этой сфере является Роскомнадзор, говорит топ-менеджер крупной data-компании. \”Все спорные моменты обсуждаются с ними [Роскомнадзором]\”, – говорит он.

Например, когда в начале апреля министерство цифрового развития утвердило порядок контроля за носителями коронавируса, то к письму ведомства, направленному в субъекты РФ, было приложено разъяснение Роскомнадзора, сообщали \”Ведомости\” и \”Медуза\”. В ведомстве указали, что слежка на основе сотовых данных не противоречит закону о персональных данных – геолокация не позволяет установить личность пользователя.

По действующим нормам, эпидемия не освобождает от обязанности на получение согласия субъекта персональных данных на их обработку, уверен руководитель юридической практики общественной организации \”РосКомСвобода\” Саркис Дарбинян. А сведения о передвижении человека по территории России и за ее пределами относятся к персональным данным, добавляет Екатерина Тягай.

Помимо закона, существует еще один действенный инструмент противодействия злоупотреблениям с данными граждан. Это – общественный контроль, который есть во многих европейских странах, и которого практически нет в России, полагает глава АНО \”Информационная культура\” Иван Бегтин.

Московские власти и сами не всегда уверены в законности своих проектов. В середине 2019 года мэрия, уже вовсю внедряя систему распознавания лиц, решила выяснить, насколько она соответствует законам. И заключила контракт на подготовку юридической справки – о том, как законодательство регламентирует проблему получения согласия гражданина на использование его изображения при видеонаблюдении.

Позже суд решил, что юридически проблемы нет: в конце 2019 года активисты оппозиции пытались оспорить использование этой системы на акциях протеста и дважды проиграли. Аргументы судов похожи на разъяснения Роскомнадзора: система лишь сравнивает изображение с камер с фотографией, а чтобы установить личность человека, нужны и другие параметры – например, рост и вес.

Но есть и другая проблема – данные из некоторых систем московской мэрии уже можно купить на так называемом рынке \”пробива\”.

\”Пробивом\” на жаргоне называется покупка персональных данных, в основном на специализированных форумах в интернете с простой системой регистрации. Как рассказывала Би-би-си, для покупки доступны информация из баз сотовых операторов, банков, МВД, ФНС и прочих государственных органов. Из систем московской мэрии там можно встретить предложение купить данные о парковочных сессиях, выписку из ЗАГСа или домовой книги, а также записи с любой видеокамеры из почти 200 тысяч, развешанных по городу.

За несколько тысяч рублей корреспондент Би-би-си купил информацию о парковочных сессиях и справку из домовой книги на своих коллег (с их письменного согласия). А в конце декабря 2019 года корреспондент \”МБХ медиа\” успешно купил данные из системы видеонаблюдения.

\"пробив\"
Выписка из домовой книги на сотрудника Би-би-си, приобретенная на \”пробиве\”

Правда, справку из системы ЗАГС купить не удалось: посредник, с которым корреспондент Би-би-си связывался в Telegram, посетовал, что \”исполнитель\” – то есть, сотрудник государственной организации – не отвечает. Скорее всего, из-за карантина.

Дворники на великах против системы

В России Москва выглядит абсолютным лидером и своего рода испытательным полигоном для систем по сбору и анализу данных жителей города. Примеру столицы следуют другие регионы.

Обезличенные сотовые данные уже покупают Ленинградская, Липецкая и Пермская области, республика Башкирия и Санкт-Петербург (данные сайта госзакупок). Росстат уже тестировал использование геоаналитической информации от операторов \”большой четверки\” и планирует полноценно применять их при проведении масштабной переписи 2020 года – если ее не перенесут из-за коронавируса.

Минцифра уже несколько лет разрабатывает проект единого цифрового профиля россиян, который будет объединять 57 видов личных данных, необходимых для идентификации каждого гражданина и предоставления госуслуг. Несмотря на общий тренд на цифровизацию, идея объединения такого массива данных в одном месте вызывала критику даже в ФСБ – как раз из-за угрозы утечек.

\"мишустин\"
Премьер-министр Михаил Мишустин, как и Собянин, считается ярым сторонником цифровизации

В планах мэрии, согласно стратегии \”Умный город – 2030\”, – создание \”общегородской платформы данных\”, которая помогала бы чиновникам принимать \”быстрые и обоснованные решения\”. Big data должна уметь предсказывать очереди, заторы, пробки, аварии и несчастные случае, а также \”поведение отдельных лиц\”, указано в документе.

Означает ли это, что \”Умный город\” окончательно превратится в \”Старшего брата\”? Многое зависит от того, как эти амбициозные и одновременно пугающие планы будут реализованы.

\”Никто [в Москве] не стремился сделать \”Большого брата\”. Если бы \”Большой брат\” в городе был, то смска прилетевшему из Барселоны не приходила бы через неделю после прибытия. А приходила бы сразу, да еще всем, кто с ним контактировал\”, – говорит один из подрядчиков ДИТа.

Иногда самые инновационные идеи глобального контроля часто разбиваются о российскую специфику. \”Уже на этапе проектирования та часть команды, которая будет отвечать за проектирование системы, думает о том, как ее обмануть\”, – объясняет экс-сотрудник мэрии.

В качестве примера он привел проект внедрения системы мониторинга коммунальной техники: снегоуборочные машины и трактора по всему городу оснащали спутниковыми навигаторами, благодаря которым можно отслеживать работу техники в режиме онлайн.

В одном из районов Москвы была зафиксирована аномалия: техника вроде ездит, а жалобы на неубранный снег – растут. \”Потом через систему видеонаблюдения мы заметили, что в тот момент, когда должна проехать машина, проезжает узбек на велосипеде\”, – вспоминает собеседник Би-би-си.

Оказалось, что в организации, ответственной за уборку улиц, решили обмануть систему – вырвали датчики из уборочной техники, поставили их на велосипеды и даже рассчитали нужную скорость, чтобы для наблюдающей машины все выглядело достоверно.

\"телефон\"

В приложении мэрии для мониторинга за соблюдением карантина число ошибок идентификации уходит \”в минус\”

Так что запоздавшая на две недели sms\’ка, обязующая москвича немедленно поместить себя в карантин, – не единственный сбой системы.

В конце марта 2020 года мэрия выпустила мобильное приложение для больных коронавирусом, проходящих лечение на дому, оно должно было контролировать каждый их шаг. Для завершения регистрации нужно было позволить приложению сфотографировать лицо. Редактор Би-би-си пытался сделать это несколько минут подряд и уперся в надпись: \”Ошибка идентификации. Осталось попыток: 0\”.

Редактор все равно продолжил, но сдался на сообщении \”Осталось попыток: -19\”.

АНДРЕЙ ЗАХАРОВ

https://www.bbc.com/russian/features-52219260