500 сотрудников украинского офиса стартапа из США Ring обвиняют в нарушении прав конфиденциальности частной жизни тысяч клиентов компании по всему миру.

По данным издания The Intercept, сотрудники украинского офиса компании Ring получили бесконтрольный доступ к видеофайлам и учетным данным клиентов компании. Делалось это для улучшения системы распознавания лиц и объектов на видеозаписи.

"Начиная с 2016 года, по словам одного из источников, Ring предоставляла своей украинской группе исследователей и разработчиков практически беспрепятственный доступ к папке в облачном сервисе Amazon S3, в которой содержится каждое видео, созданное каждой камерой Ring по всему миру", - говорится в статье американского журналиста Сэма Биддла в онлайн-издании The Intercept.

При этом компания не скрывает, что украинцы "вручную" учат нейросеть Ring распознавать объекты, однако отрицает, что делает это без согласия клиентов.

Несмотря на это, за последнюю неделю материал Биддла спровоцировал немалый резонанс в ведущих нишевых мировых, украинских и российских СМИ.

"Экономическая правда" разобралась, насколько обвинения соответствуют действительности и есть ли "криминал" в действиях украинских IT-специалистов.

Что такое Ring и чем занимаются 500 сотрудников украинского офиса

Ring - это стартап, основанный в 2011 году Джейме Симиноффым в Южной Калифорнии. Главным продуктом стартапа стал "умный" дверной звонок, который имеет Wi-Fi-подключение и камеру. С помощью звонка Ring, пользователь даже находясь не дома, может отслеживать посетителей у двери и общаться с ними.

Как работает "умный" дверной звонок Ring

У компании также есть сервис Neighbors ("Соседи"), который позволяет людям обмениваться и комментировать информацию о безопасности района. В приложении можно найти множество видео, снятых устройствами от Ring - эти данные должны помочь полиции быстрее раскрывать преступления и предотвращать их, считают разработчики.

Продукт стал очень успешен: в 2016 году Ring продал устройств на 155 млн дол. На начало 2018 года стартап привлек 209 млн дол инвестиций. В начале того же 2018 года компания Amazon купила Ring за 1 млрд дол.

Украинский R&D-центр Ring открылся в 2016 году. Киевская лаборатория Ring Labs занимается разработкой софта в области машинного обучения, компьютерного зрения, интеллектуального анализа данных и других сфер искусственного интеллекта. По данным веб-сайта украинского Ring Labs, в нашей стране на американскую компанию работает более 500 человек. При этом сама компания Ring не упоминает, что у нее есть офис R&D в столице Украины Киеве.

Кто и в чем обвиняет украинский офис Ring

Несмотря на свою миссию обеспечивать безопасность людей и их имущества, компания обращалась с видеопотоками клиентов совсем не так, как того требует миссия, пишет журналист издания The Intercept. Он ссылается на сведения от некого анонимного источника, знакомого с внутренней деятельностью Ring.

Источник утверждает, что "с 2016 года Ring предоставляла своей украинской группе исследователей и разработчиков практически беспрепятственный доступ к папке в облачном сервисе Amazon S3, в которой содержится каждое видео, созданное каждой камерой Ring по всему миру.

"Для загрузки и обмена этими видеофайлами требовалось чуть больше, чем клик", - пишет журналист.

По словам источника, когда сотрудникам украинского офиса предоставили доступ к облачному сервису, видеофайлы оставались незашифрованными из-за того, что руководство Ring "чувствовало, что шифрование сделает компанию менее ценной" из-за затрат на внедрение шифрования и потери возможностей получения дохода из-за ограниченного доступа.

"Украинской команде также была предоставлена соответствующая база данных, которая связывала каждый конкретный видеофайл с соответствующими конкретным клиентом Ring", - пишет журналист.

По данным издания, компания дала доступ к видео большому числу разработчиков из-за недостатков своей системы распознавания лиц и объектов. Разработчики ПО Ring годами боролось с проблемами распознавания объектов и как пишет журналист, боролись без особого успеха.

"Согласно последнему информационному отчету, "пользователи регулярно жаловались в службу поддержки клиентов на получение предупреждений, когда у их входной двери ничего не происходило; вместо этого система, казалось, обнаруживала проезжающий на улице автомобиль или лист, падающий с дерева во дворе".

Чтобы ускорить процесс развития системы, Ring использовала работу людей, которые распознавали объекты вручную.

The Intercept пишет, что люди-операторы занимались ручной маркировкой объектов в рамках обучения для системы компьютерного распознавания - но компания продолжает нанимать для этого людей даже спустя несколько лет. При этом пользователи могут считать, что эта работа выполняется автоматически и у них могут быть вопросы к тому, что их личные данные доступны сторонним людям, отмечает Mashable.

Украинский офис и правда смотрит видеозаписи "умных" звонков

Впрочем, киевский офис Ring не скрывает, что набирает людей "которые будут отвечать за маркировку объектов на видео".

"Вы должны быть в состоянии распознать и пометить все движущиеся объекты в видео с высокой точностью", - описывают на английском языке представители украинского подразделения американского стартапа.

В то же время, это лишь одна из более 40 вакансий, многие из которых напрямую не связаны с маркировкой видео.

Издание Mashable также обращает внимание, что это не первый случай, когда компания использует человеческих работников для выполнения того, что клиент может обоснованно считать автоматизированной задачей.

В конце 2017 года выяснилось, что компания Expensify, занимающаяся разработкой программного обеспечения для управления расходами, использовала так называемые механические турки (Mechanical Turk) для маркировки некоторых клиентских квитанций.

Для основателя IT Elevator Ярослава Кореца, история с маркировкой объектов на видео компании Ring не стала новостью. Он говорит, что технология нейросетей (или то, что называют искусственным интеллектом, ЭП) такова, что для начала полноценной работы нейросети, ей нужно "скормить" массив изображений размеченных людьми.

Этот массив называется Data Set. И только потом нейросеть начинает автоматически обрабатывать фото.

Подобный тезис озвучил на Киевском международном экономическом форуме 19 октября 2019 года корпоративный вице-президент Microsoft направление ИИ Стив Гуггенхаймер."Когда люди в фильмах видят роботов, они думают, что это искусственный интеллект. На самом деле искусственный интеллект - это набор статистических моделей, которые натренированы для анализа и классификации данных", - заявил Гуггенхаймер.

"Когда люди в фильмах видят роботов, они думают, что это искусственный интеллект. На самом деле искусственный интеллект - это набор статистических моделей, которые натренированы для анализа и классификации данных", - заявил Гуггенхаймер.

Однако у IT специалистов все же остались замечания и вопросы к компании Ring. Во-первых, они считают, что компания не имела права учить нейросеть на основе данных клиентов. Во-вторых, не имела права отправлять личные данные клиентов в Украину. И в-третьих, возникает вопрос, почему компания обучает нейросеть вот уже целых два года?

Позиция Ring

Руководитель PR службы Ring Ukraine Мария Дзюбина в публичной переписке на Facebook отказалась комментировать статью The Intercept. Поэтому ЭП публикует комментарий представителя Ring, который был предоставлен зарубежному онлайн изданию Gizmodo 15 января:

"Мы очень серьезно относимся к конфиденциальности и безопасности личной информации наших клиентов. Чтобы улучшить наш сервис, мы просматриваем и аннотируем определенные видеозаписи Ring.

Эти записи получены исключительно из общедоступных видео Ring: из приложения "Соседи" (в соответствии с нашими условиями предоставления услуг) и от небольшой части пользователей Ring, которые дали свое явное письменное согласие на то, чтобы мы могли просматривать и использовать их видео для таких целей. Сотрудники Ring не имеют доступа к прямой трансляции от продуктов Ring.

У нас есть строгие правила для всех членов нашей команды. Мы внедряем системы для ограничения и аудита доступа к информации. Мы обеспечиваем в нашей команде высокие этические стандарты, и любой, кто нарушает наши правила, сталкивается с дисциплинарной ответственностью, включая увольнение и возможные юридические и уголовные санкции".