«Эгоистичный реестр» Google – тревожное видение социальной инженерии из Кремниевой долины
Видео, снятое внутри Google и полученное The Verge, предлагает потрясающе амбициозный и тревожный взгляд на то, как некоторые сотрудники компании представляют себе использование этой информации в будущем.
"Мы понимаем, если это вызывает беспокойство — так и было задумано. Это мысленный эксперимент, проведенный командой дизайнеров несколько лет назад, в котором используется техника, известная как «спекулятивный дизайн», для изучения неудобных идей и концепций, чтобы спровоцировать дискуссии и дебаты. Это не связано с какими-либо текущими или будущими продуктами".
Видео было снято в конце 2016 года Ником Фостером, руководителем отдела дизайна в X (ранее Google X) и соучредителем Лаборатории ближайшего будущего. В нем представлено будущее тотального сбора данных, в котором Google помогает подталкивать пользователей к достижению тех или иных целей, печатает персонализированные устройства для сбора большего количества данных и даже управляет поведением целых групп населения для решения глобальных проблем, таких как бедность и болезни.
9-минутный фильм под названием «Эгоистичный реестр(The Selfish Ledger)» начинается с истории ламаркистской эпигенетики, которая в целом занимается передачей признаков, приобретенных в течение жизни организма. Рассказывая о фильме, Фостер признает, что теория, возможно, была дискредитирована, когда речь идет о генетике, но говорит, что она представляет собой полезную метафору для пользовательских данных. (Название является отсылкой к книге Ричарда Докинза «Эгоистичный ген(The Selfish gene)» 1976 года.) То, как мы используем наши телефоны, создает «постоянно развивающееся представление о нас», которое Фостер называет «реестром (Ledger)», предполагая, что эти профили данных можно накапливать, использовать для изменения поведения и передавать от одного пользователя к другому:
«Принципы проектирования, ориентированного на пользователя, доминировали в мире компьютерных технологий на протяжении многих десятилетий, но что, если мы посмотрим на вещи немного по-другому? Что если бы «реестру» можно было придать волю или цель, а не просто выполнять роль исторической справки? Что, если бы мы сосредоточились на создании более наполненного «реестра» путем введения большего количества источников информации? Что если бы мы думали о себе не как о владельцах этой информации, а как о хранителях, временных носителях или смотрителях?».
Так называемый «реестр» использования наших устройств — данных о наших «действиях, решениях, предпочтениях, перемещениях и взаимоотношениях» — это то, что может быть передано другим пользователям подобно тому, как генетическая информация передается из поколения в поколение, говорит Фостер.
В середине видеоролика представлена концепция системы Resolutions by Google, в которой Google предлагает пользователям выбрать жизненную цель, а затем направляет их на ее достижение в каждом взаимодействии с телефоном. Примеры, которые будут «отражать ценности Google как организации», включают в себя призыв попробовать более экологичный вариант при вызове Uber или указание покупать в Safeway продукты местного производства.
Пример разрешения Google, наложенного на приложение для покупок в продуктовом магазине и предлагающего выбор, соответствующий цели пользователя.
Конечно, эта концепция основана на том, что Google имеет доступ к огромному количеству данных и решений пользователей. Вопросы конфиденциальности или потенциальные негативные внешние эффекты в видеоролике не упоминаются. Требование «реестра» получать все больше данных может быть самым пугающим аспектом презентации.
Фостер видит «реестр» не только как инструмент для самосовершенствования. Система сможет «заполнить пробелы в своих знаниях и усовершенствовать свою модель человеческого поведения — не только вашего или моего, но и всего человеческого рода. Если рассматривать пользовательские данные как данные нескольких поколений, то у новых пользователей появляется возможность извлекать пользу из поведения и решений предыдущего поколения». Фостер представляет себе, как можно изучать базу данных поведения людей в поисках закономерностей, «секвенировать» ее, как геном человека, и делать все более точные прогнозы относительно решений и будущего поведения.
«По мере расширения циклов сбора и сравнения, — заключает Фостер, — возможно, удастся достичь понимания сложных проблем, таких как депрессия, здоровье и бедность, на уровне вида».
В «Эгоистичном реестре» Google позиционируется как решатель самых трудноразрешимых мировых проблем, опираясь на тревожно интимную степень личной информации каждого пользователя и легкость в управлении поведением целых групп населения. Ничто не указывает на то, что это не более чем размышления внутри Google, инициированные влиятельным руководителем. Однако это дает возможность получить представление о том, какие разговоры ведутся в компании, которая уже является самым активным в мире сборщиком персональных данных.
Комментарий недоступен
И всё это конечно утечёт в открытый доступ... Ну и спецслужбы тоже в стороне не останутся.