«Мы не заметим, как мир захватит искусственный интеллект» — «наука»
Английская компания Cambridge Analytica помогла Дональду Трампу победить выборы президента в Соединенных Штатах посредством разработок Громадных данных и персонально таргетированной рекламы в сети. До этого та же компания трудилась со приверженцами Brexit в Британии, а сейчас заключила сделку с французским «Национальным фронтом». Правда ли, что неожиданные финалы голосований в различных государствах — не провал социологии, а победа социологии нового типа?
Собеседник Радио Свобода Михал Косински, изучения которого косвенно связаны с деятельностью Cambridge Analytica, считает, что это преувеличение, но технологии Громадных данных и понижение приватности сулят миру глобальные перемены.
Еще в последних числах Сентября, в разгар выборов, выступая в Нью-Йорке на саммите Concordia, ежегодном мероприятии для бизнесменов и влиятельных политиков со всех стран, основатель Cambridge Analytica Александр Никс говорил, как новая разработка разрешила повысить эффективность кампании соперника Трампа по республиканской номинации Тэда Круза, к началу гонки фактически никому не известного кандидата. Никс говорил, как, к примеру, людям различного склада характера стоит по-различному преподносить вывод кандидата по поводу закона о свободном распространении оружия: боязливым людям с большим уровнем нейротизма оружие возможно представить как источник безопасности, а богатым консерваторам-экстравертам продемонстрировать картину утиной охоты.
Позднее Cambridge Analytica помогала уже самому Трампу, причем, по оценкам Никса, за довольно скромное вознаграждение, в общем итоге, порядка 15 миллионов долларов. Посредством анализа данных, каковые оставляют в сети все пользователи интернета, экспертам компании удалось отыскать паттерны и неочевидные связи (к примеру, что люди, предпочитающие автомобили американского производства, — готовые избиратели Трампа) и применять их для таргетирования рекламы в сети, для персонализации посланий, исходящих из штаба республиканского кандидата.
Обитателям квартала Мелкий Гаити в Майями показывали данные об отказе Хиллари Клинтон принимать участие в ликвидации последствий землетрясения на Гаити, афроамериканцам — видео, где Клинтон сравнивает темнокожих мужчин с хищниками. Добровольцы Трампа взяли подробный профайл обитателей домов, где они планировали вести прямую агитацию.
Сложно сообщить, как велико влияние, которое работа Cambridge Analytica оказала на финал выборов в Соединенных Штатах, но эта кампания — не единственный пример, в то время, когда в победителях выясняются как раз те, кто нанял эту компанию. Так, еще в 2015 году одолжениями Cambridge Analytica начал пользоваться радикальный приверженец Brexit Найджел Фарадж. Швейцарское издание Das Magasin, сравнительно не так давно опубликовавшее расследование о деятельности Cambridge Analytica (на русском его возможно прочесть тут), говорит, что сейчас компания взяла договор с французским «Национальным фронтом», помимо этого, в сотрудничестве заинтересованы кое-какие политические силы в Швейцарии, Германии и, быть может, Италии.
Один из храбрецов публикации Das Magasin — Михал Косински, исследователь польского происхождения, в прошлом — помощник директора Центра психометрии Кембриджского университета, а на данный момент — доцент Стэнфордского университета США. в течении нескольких лет Косински с сотрудниками по Кембриджу разрабатывали совокупность, которая на базе активности пользователя в социальной сети образовывает подробный психотерапевтический профиль человека. Совокупность способна не только обрисовывать особенности характера, но и предвещать, среди другого, пол, сексуальную ориентацию, цвет кожи а также политические предпочтения пользователя.
Швейцарские журналисты говорят, что в начале 2014 года к Косински обратился сотрудник, Александр Коган, что внес предложение молодому исследователи применить созданную им модель для анализа нескольких миллионов профилей граждан США по заказу некой компании. Как стало очевидным позднее, эта компания была связана с Cambridge Analytica. Косински отказался от сотрудничества, но способы, каковые Cambridge Analytica использовала на протяжении референдума в Британии и выборов президента в Соединенных Штатах, как минимум сильно напоминают модели, придуманные Михалом Косински.
Радио Свобода дозвонилось Косински в Калифорнию и расспросило его о том, что именно возможно сообщить о человеке по его «цифровому следу», как стоит доверять громким заявлениям Cambridge Analytica, проиграна ли война за приватность и страшнее ли ИИ Дональда Трампа.
Новая роль фейка
10.12.2016Тролли на чужих выборах
10.12.2016Эра постправды
10.12.2016
— Что такое психометрия? Чем вы занимаетесь как исследователь?
— Сама по себе психометрия — старая наука, думаю, ей два либо три тысячелетия. В сущности, это наука психотерапевтических измерений, попыток как возможно правильнее установить разные психотерапевтические нюансы, личность, интеллектуальные свойства, счастье, склонность к депрессии и без того потом.
Традиционно такие измерения производились посредством опросников, психотерапевтических тестов, но недавно я и другие психометристы осознали, что их возможно делать, оценивая цифровой след человека, — и тогда никакие вопросы возможно не задавать, тестов и никаких опросников не требуется. И это революционный момент. Важность истории Cambridge Analytica, о которой написало издание Das Magasin, в действительности не в том, что компания помогла Трампу в предвыборной гонке.
Это компания, у них имеется разработка, они желают получать деньги, тут ясно. Принципиально важно то, что в случае если раньше вы желали составить чей-то психотерапевтический профиль, вы должны были попросить человека заполнить опросник, пройти тест — и испытуемый прекрасно осознавал, что вот на данный момент, в данный самый момент, кто-то измеряет его психотерапевтические характеристики. А сейчас возможно делать то же самое, но человек не определит, что его самые интимные изюминки прямо на данный момент кто-то оценивает и измеряет.
Достаточно взглянуть на цифровой след: записи в соцсетях, лайки, историю просмотра страниц в сети, историю поисковых запросов. На базе этих разрешённых можно составить поразительно правильный психотерапевтический портрет. С одной стороны, это думается чем-то пугающим, с другой, в этом возможно и большое количество пользы.
К примеру, какая-нибудь интернет-платформа может предложить самая подходящую по способностям и вашему характеру работу либо дать совет фильм, что вам точно понравится. Это естественно. Но в то время, когда вы открываете вашу страницу в «Фейсбуке» и видите в том месте рекламу, персонально направленную, таргетированную для вас на базе вашего подробного психотерапевтического профиля, что был составлен без согласия и вашего ведома, это уже не весьма нормально.
— Вот лично вы имели возможность бы составить мой полный психотерапевтический профиль, зная лишь мое имя, на базе следа, что я оставил в интернете?
— Я ученый и просто не стал бы этим заниматься. Если бы вы добровольно захотели оказать помощь моему изучению и предоставили собственные эти, я бы с наслаждением включил их в собственную базу данных, анонимизировал и дал обещание ни при каких обстоятельствах никому не реализовывать и не передавать. Но многие компании, само собой разумеется, всегда собирают данные о вас без спроса и применяют ее, к примеру, для таргетированной рекламы.
— Эта информация, само собой разумеется, не хранится в одном месте — одной компании известны эти моей геолокации, второй — денежные транзакции, третьей — лайки в «Фейсбуке». Все это возможно собрать воедино?
— Ну, во-первых, это в большинстве случаев и не требуется. В большинстве случаев для построения правильного профиля достаточно чего-то одного — ваших заинтересованностей в «Фейсбуке», к примеру, либо истории посещений страниц из браузера. Во-вторых, компании, собирающие данные о вас, в большинстве случаев обмениваются ей между собой либо на неспециализированном рынке данных.
Имеется проекты, наподобие Acxiom, каковые все собирают воедино и реализовывают компаниям типа Cambridge Analyticа.
Ты прийти и сообщить — мне необходимы эти на 10 миллионов американцев из такого-то региона, и они эти сведенья с наслаждением реализуют. В-третьих, чтобы вести кампанию с личным таргетингом, вовсе необязательно иметь как раз личные эти пользователей. Возможно применять так именуемое поведенческое таргетирование.
К примеру, вы не имеете возможность попросить «Фейсбук» продемонстрировать определенную рекламу для всех людей, склонных к определенному типу поведения.
Но у вас возможно модель, связывающая данный тип поведения с каким-то психотерапевтическим профилем, причем эту модель вы кроме того имели возможность в полной мере честно выстроить — заплатили нескольким десяткам тысяч людей маленькой гонорар за заполнение опросника. И в то время, когда модель выстроена, вы задаёте вопросы ее: как мне отыскать эмоциональных экстравертов? Модель отвечает — нет неприятностей, это те, кто лайкнул такие-то десять книг, такие-то десять фильмов и такие-то десять музыкантов.
Сейчас вы опять идете в «Фейсбук» со своей рекламой, лишь вам уже не требуется просить продемонстрировать ее как раз эмоциональным экстравертам, чего «Фейсбук» бы делать не стал. Вместо этого вы просите продемонстрировать рекламу тем, у кого имеется определенный комплект лайков. В итоге получается, что у вас не было никаких персональных данных, но вы совершили персонально таргетированную рекламу.
— Имеется ли компании, каковые стремятся составить психотерапевтический профиль всего человечества, по крайней мере всех, кто оставляет цифровые следы?
— Вряд ли кто-то мыслит в так глобальных категориях, но до некоей степени этим занимается Facebook, Гугл, Микрософт, Visa, Mastercard, тот же Acxiom. И все эти сведенья обширно торгуются на рынке.
— Другими словами где-то на рынке продается, к примеру, и мой психотерапевтический профиль, причем поразительно правильный. Вы сообщили в комментарии для издания Das Magazin, что достаточно всего нескольких лайков в «Фейсбуке», дабы совокупность определила вас лучше, чем ближайший приятель. Это вправду так?
— Да, об этом было занимательное изучение. Достаточно десяти лайков (заинтересованностей), дабы совокупность смогла лучше выявить вашу личность, чем сотрудник по работе, а по 230–240 лайкам компьютер будет знать о вас больше, чем ваш муж либо супруга.
— Но что именно это значит — знать больше?
— Это значит, что в случае если попросить компьютер заполнить вместо вас психотерапевтический опросник, он совершит ошибку меньше, чем ваша супруга.
— Это ответы на вопросы наподобие «Опасаетесь ли вы темноты»?
— Да, обычные вопросы психотерапевтических опросников. Так что вправду, где-то на рынке возможно приобрести весьма правильную данные о вашей личности, а также о ваших политических пристрастиях, о вашей религиозности, о вашей сексуальной ориентации, о вашем IQ. Приблизительно осознать, что о вас известно по вашим заинтересованностям на «Фейсбуке», возможно посредством сайта Applymagicsauce.com, но это, само собой разумеется, далеко не полная картина.
— Давайте обратимся к истории с Cambridge Analytica. Сообщите, вы вправду не имеете никакого отношения к данной компании?
— Нет, и ни при каких обстоятельствах не имел. Я услышал о ее существовании из прессы.
— Александр Коган, что, как утверждает издание Das Magazin, внес предложение Cambridge Analytica разработку психотерапевтического профайлинга, был вашим сотрудником?
— Да, он был моим сотрудником, правильнее, он был доцентом на психотерапевтическом факультете Кембриджского университета в то время, в то время, когда я был в том месте же аспирантом. Но отечественные пути в далеком прошлом разошлись, он основал маленькую компанию и, как я осознал из прессы, реализовывал эти Cambridge Analytica, а я остался в отвлечённом мире.
— Возможно ли высказать предположение, что Cambridge Analytica применяет созданные вами модели?
— Я бы заявил, что они применяют похожие модели, но, видите ли, дабы создать такую модель, не требуется особенно глубокой науки, в этом нет никакой магии. Это может сделать любой человек, у которого имеется базисные навыки программирования, мало денег и компьютер, подключенный к интернету, — фактически, именно это совершает проблему таковой большой. Тут употребляются самые стандартные статистические способы, ничего особого.
Основная идея моих публикаций в том, что это легко, принципиально важно только поменять фокус: для психометрии больше не необходимы тесты и опросники, достаточно иметь цифровой след человека. И это дает огромные преимущества, возможно улучшить маркетинг, карьерное планирование, способы помощи психолога, большое количество чего еще. Но ту же разработку возможно применять и против людей.
Я уверен, что Александр Коган был в курсе моих изучений и, не смотря на то, что об этом я могу делать выводы лишь по сообщениям журналистов, он сделал ровно то, что я предлагал, и реализовал итог компании Cambridge Analytica. Я неоднократно сказал и очевидно показывал в собственных статьях, что не желал никого вдохновить на для того чтобы рода деятельность, более того, я уверен, что люди занимались цифровым психотерапевтическим профайлингом задолго до меня, просто не говорили об этом так деятельно, как Cambridge Analytica. Я именно призываю создать политику, процедуры, каковые бы определяли этичное применение данной технологии.
— Как вы думаете, Cambridge Analytica вправду имела возможность значительно повлиять на результаты выборов президента США?
— Честно говоря, я не знаю. Ясно, что Cambridge Analytica заинтересована в том, дабы как возможно громче трубить о собственном успехе, но в конечном счете результаты выборов определяют не способы Громадных данных, а кандидаты, к тому же, как сейчас особенно прекрасно видно, избиратели, не ходящие на выборы. Быть может, деятельность Cambridge Analytica стала той самой последней каплей, которая предопределила окончательный итог, но вероятнее, этого точно не знает и сам Александр Никс.
Иначе, мы должны отдавать себе отчет, что разработка имеется, и защититься от нее фактически нереально. Вы имеете возможность прекратить пользоваться «Фейсбуком», но все равно станете писать Email. Решите пользоваться голубиной почтой — не обойдетесь без пластиковой карты.
Возможно, государства имели возможность бы принимать законы, ограничивающие такие способы, но и это может не сработать.
Кстати, я не знаю точно, но слышал, что то, что делали Cambridge Analytica для Трампа, противоречило действующему американскому законодательству, и исходя из этого яркий анализ данных они делали в Британии. Понимаете, я ученый, я занимаюсь психометрикой, я не эксперт в политике, демократии и свободе, но мне думается, нам нужно будет принять тот факт, что никакой приватности не останется. Вместо того, дабы ввязываться в очередную битву за приватность, стоит признать, что уже проиграна война, и лучше озаботиться тем, дабы мир стал благоприятной средой для человека, лишенного приватности.
— Любопытно, до какой все-таки степени построение психотерапевтического профиля, применение персонального таргетинга может оказать влияние на настоящий мир.
— С научной точки зрения об этом рассуждать сложно, по причине того, что сложно ставить опыты. Другими словами если вы торгуете каким-нибудь гелем для душа, вы имеете возможность сравнить количество кликов, но оценить, к примеру, эффективность способов Громадных данных в политической кампании, которая скорее похожа на продвижение бренда, чем на кампанию по увеличению продаж, весьма сложно.
Мы совершили кое-какие опыты, не с политиками, по причине того, что я считаю это неэтичным, а с конкретными потребительскими товарами, и оказалось, что персональный таргетинг, другими словами применение личного рекламного месседжа на базе психотерапевтического профиля удваивает эффективность рекламы. И это немыслимый итог, в большинстве случаев борьба идет за увеличение эффективности на какие-нибудь три процента, а также это экономит компаниям много миллионов долларов. А тут вдвое!
— Необычно, что вы еще не стали миллиардером.
— У меня и без того красивая судьба. Кстати, имеется большое количество психотерапевтических работ, каковые обосновывают, что для счастья необходимо не так уж большое количество денег, ну, нужно, само собой разумеется, дабы хватало на отпуск. В действительности, все, возможно, не так легко, как мне как ученому думается, легко я готов сказать об этих вещах открыто, а другие трудятся над настоящими проектами, никому ничего не говоря.
— Мне мысль психотерапевтического профайлинга на базе цифрового следа думается достаточно естественной, уверен, весьма многие уже применяют ее в рекламе. Отечественный мир, быть может, уже очень сильно изменился, легко мы этого пока не особенно подмечаем.
— Возможно, и я эти трансформации скорее приветствую. У нас были изобретения и ужаснее, чем Громадные эти, мы совладали с ядерной энергией — как-нибудь справимся и с этим, не смотря на то, что, возможно, и не без жертв. Как я уже сообщил, мне думается, война за приватность уже проиграна, мы живем в мире постприватности, соответственно, стоит положить упрочнения в то, дабы у всех были равные права, так что и скрывать ничего никому не захочется.
Надеюсь, громадная толерантность может решить проблему отсутствия приватности.
— Но так как неприятность не только в том, что окружающие определят все секреты человека и начнут к нему в противном случае относиться, но и в том, что показался замечательный инструмент для манипулирования.
— С этим, по-моему, должно справляться просвещение. Легко манипулировать теми, кто мало знает, кто мало просматривает, кто мало путешествует. Такому человеку возможно заявить, что в Сирии нет никакой войны, да и по большому счету все сирийцы — чертовы преступники, и он в это с готовностью поверит.
— По-моему, манипулировать возможно и грамотными людьми, посредством секса и тщеславия, к примеру.
— Не думаю. Вот вы, возможно, хорошо понимаете собственную жену, вам ею от этого делается легко манипулировать?
— Не знаю, у меня, пожалуй, нет таковой цели, но точно найдется большое количество людей, которым было бы весьма интересно как возможно действеннее манипулировать мной так, дабы я отправился и проголосовал, к примеру, за Путина.
— Само собой разумеется, найдется, и это все время происходит, вся реклама, целый маркетинг — манипуляция для того чтобы рода, и я не вижу, что мы можем с этим сделать. И все же манипулировать грамотными, открытыми и радостными людьми сложно. А отказываться от «Фейсбука», электронной почты, кредиток уже поздно, да и просто довольно глупо. «Фейсбук» — красивая вещь, вот я большое количество в собственной жизни говорил о рисках его применения, но пользуюсь сам, и с наслаждением, и я бы кроме того за него платил, если бы было нужно.
— Вам так как, кстати, предлагали работу в «Фейсбуке»?
— Да, это правда. Меня устраивает моя работа в университете, но вообще-то, для человека, занимающегося изучением желающего и поведения поменять жизнь людей к лучшему, карьера в компании наподобие «Фейсбука» либо «Гугла» — красивый путь. Я придумываю модели и изучаю их, а если бы я трудился в «Фейсбуке», я имел возможность бы в конечном итоге с их помощью изменять жизни миллионов людей, и совсем не обязательно им наряду с этим что-то реализовывать.
— Страшно, что возможно парой кликов поменять жизнь миллионов людей.
— Вправду, дабы оказать влияние на миллионы людей, раньше необходимо было быть авторитарным диктатором, а сейчас вы имеете возможность быть инженером, трудящимся в какой-нибудь интернет-компании. Но страшно не это. Все эти методы — поиск в «Гугле», совокупности рекомендаций и без того потом — основаны на самой простой математике, но она используется к огромным массивам данных.
И в конечном счете никто не осознаёт, как все это в сущности трудится, кроме того сами разработчики.
Вот в Российской Федерации имеется какие-то законы, каковые все вычисляют нехорошими, но это явные законы, каковые возможно исправить. А компьютерные методы самообучаются и становятся такими сложными, что если они трудятся как-то не так, неясно, что и где в них исправлять.
— Так ли далеки мы от момента, в то время, когда какая-нибудь такая вышедшая из-под контроля, недоступная для отечественного понимания совокупность устроит ядерную войну?
— Понимаете, пока что у Дональда Трампа куда больше шансов и шансов стереть с лица земли человечество, чем у Громадных данных, но в будущем… Смотрите, имеется муравьи и голуби, думаете, они знают, что миром правит человек? Догадываются, что Дональд Трамп может надавить на красную кнопку? Нет, само собой разумеется.
Стоит не забывать об этом, по причине того, что в то время, когда миром начнёт править ИИ, мы в полной мере можем этого совершенно верно так же не подметить. Мы так как уже не можем осмыслить и проанализировать те количества данных, каковые сами же и производим, — и нам приходится доверяться компьютеру. Вы имеете возможность поинтересоваться у автомобили: можешь что-то угадать на базе этих данных?
Она ответит: да, само собой разумеется.
Вы спросите: а как ты это делаешь? Она сообщит: забудь обиду, но ты не осознаешь. И все это — уже действительность.
Вы понимаете, что американские суды применяют компьютерные совокупности, принимая решения об условно-досрочном освобождении арестантов? Компьютеры решают, дать вам кредит либо нет. Компьютер сажает на землю самолет, и это здорово, по причине того, что люди легко смогут наделать бед.
Жизнь 800 пассажиров «Боинга-787» находится в руках компьютера, а не человека, и это сегодняшняя действительность.
Подписывайтесь на отечественный канал в Telegram!
Каждый день вечером вам будет приходить подборка самых броских и занимательных переводов ИноСМИ за сутки.
Отыщите в контактах@inosmichannelи добавьте его к себе в контакты либо,
предварительно пройдя регистрацию, перейдите на страницу канала.
