Искусственный интеллект - Мередит Бруссард Страница 2

После окончания колледжа я стала работать программистом. В мои обязанности входило создание симулятора, который, подобно рою пчел, вооруженных винтовками, должен был набрасываться на вновь созданные программы и проверять их на прочность. Работа была хорошей, но не приносила радости. Я снова почувствовала, будто не было вокруг никого, кто бы выглядел, как я, говорил, как я, и интересовался теми же вещами, что и я. Поэтому я оттуда ушла и стала журналистом.

Переместимся на несколько лет вперед: я вернулась в компьютерную науку в качестве дата-журналиста. Журналистика данных – это практика поиска и рассказывания историй посредством цифр. Программирование помогает проводить журналистские расследования. А еще я преподаю в университете, это мне подходит. И гендерный баланс там лучше.

Журналистов учат быть скептиками. Мы часто повторяем: «Если мама говорит, что любит тебя, это необходимо проверять». В течение многих лет я слышала фактически одни и те же обещания о светлом технологическом будущем, однако лично видела, как цифровой мир в точности повторял все нюансы неравенства в реальном мире. Например, процент женщин в пространстве технологических профессий никогда радикально не возрастал. Интернет превратился в новое публичное пространство, однако друзья и коллеги говорят, что именно онлайн они подвергаются харассменту больше, чем когда-либо. Мои подруги, пользовавшиеся сайтами и приложениями для знакомств, рассказывали об угрозах изнасилования и непристойных фотографиях, отправленных им. А тролли и боты превратили Twitter в какофонию голосов.

Тогда я начала серьезно задумываться над обещаниями, данными технокультурой, и стала замечать, как люди говорили о технологиях, не задумываясь о последствиях их внедрения. В конце концов, в основе всего, что мы делаем на компьютере, лежат математические действия, которые имеют свои фундаментальные ограничения, определяющие границы технологий. И, как мне кажется, мы приблизились к этим границам. Американцы достигли той точки развития, когда цифровые технологии с восторгом используются буквально везде – при приеме на работу, во время вождения, при оплате счетов и даже при выборе партнера, а способность критического осмысления новой реальности угасает на глазах.

Восторженные попытки применить компьютерные технологии в каждом аспекте нашей жизни привели к появлению невероятного количества недоработанных технологий. Они усложняют повседневную жизнь вместо того, чтобы делать ее проще. Так, например, поиск номера телефона нового знакомого или актуального адреса электронной почты занимает неожиданно большой объем времени. Проблема в том, что, как и во многих других случаях, вокруг слишком много новых технологий и недостаточно людей для управления ими. Мы перешли от протоколирования к компьютерным системам и при этом избавились от людей, способных содержать информацию в актуальном состоянии. И сегодня, поскольку никто не проверяет точность контактной информации в каждом институциональном справочнике, связаться с людьми оказывается гораздо сложнее. Как журналисту мне приходится общаться со множеством людей, которых я не знаю лично, и связываться с ними стало сложнее и дороже, чем раньше.

Есть поговорка «Когда у тебя в руках молоток, все кажется гвоздями». Компьютеры – это молотки. И пора наконец остановить слепую погоню за цифровым будущим и начать принимать более осознанные решения относительно того, когда и зачем использовать их.

Так появилась эта книга – некоторые размышления, помогающее понять, что могут и что не могут технологии, где технологические достижения пересекаются с человеческой природой. Эта грань похожа на обрыв, за которым нас ждет опасность.

В мире существует множество невероятных технологий: интернет-поисковики, устройства, распознающие вербальные команды, компьютеры, соревнующиеся с людьми в играх вроде Jeopardy! ^[4] или го. Однако не стоит забывать о том, что как раз благодаря технологиям мы можем решать и определенные проблемы. В рамках моих университетских курсов я среди прочего учу одной фундаментальной вещи, а именно тому, что существуют ограничения. Подобно границам познаваемости в математике и естественных науках, имеются границы возможного применения технологий. Кроме того, существуют и пределы того, как нам следует использовать технологии. Смотря на мир через призму компьютерных наук или пытаясь решить глобальные проблемы только при помощи технологий, мы рискуем совершить известные и ожидаемые ошибки, замедляющие прогресс и усиливающие существующее неравенство. Наша книга посвящена способам понимания внешних ограничений того, на что способны технологии. Осмысление этих рамок поможет нам совершать более качественный выбор и сформировать коллективный диалог относительно применения технологий и того, что следует делать, чтобы сделать мир по-настоящему лучше для всех.

К таким размышлениям меня привела журналистика. Я специализируюсь на разделе журналистики данных под названием вычислительная журналистика, ее также называют анализом алгоритмической ответственности. Алгоритм – это вычислительная процедура с известным результатом; он похож на рецепт, который при выполнении всех шагов приводит к созданию определенного «блюда». Иногда под анализом алгоритмической ответственности понимается процесс написания программы, при помощи которой можно обнаружить алгоритмы, призванные принимать решения за пользователей. А порой подразумевается анализ не слишком качественных технологий или неверно интерпретированных данных, в результате которого мы обнаруживаем проблемную зону.

Одной из таких проблемных зон я собираюсь поделиться в этой книге, а именно техношовинизмом. Техношовинизм – это слепая вера в то, что технологии являются ответом на все вопросы. И, несмотря на то что цифровыми технологиями ученые и чиновники пользовались с 1950-х гг., а с 1980-х гг. компьютеры стали частью нашей повседневности, изощренные маркетинговые кампании все еще заставляют большинство людей верить в то, что цифровые технологии – это что-то совершенно новое и революционное. (Тем временем технологическая революция уже случилась, а цифровые технологии стали обыденностью.)

Техношовинизм нередко встречается вместе с созвучными ему идеями вроде меритократии в духе Айн Рэнд, технолибертарианских политических ценностей, торжества свободы высказывания до той степени, что бытование онлайн-харассмента не считается проблемой; с верой в то, что компьютеры более «объективны» и «беспристрастны», поскольку для них вопросы и ответы сведены к математическим уравнениям; и непоколебимой веры в то, что, если бы человечество больше полагалось на технологии и их правильное использование, социальные проблемы бы исчезли и мы создали утопическое общество на базе цифровых технологий. Никогда не было и не будет технологической инновации, способной избавить нас от необходимости сталкиваться с человеческой сущностью. Почему тогда люди упорно думают, будто где-то за поворотом человечество обязательно найдет свое светлое технологическое будущее?

Я задумалась о техношовинизме после встречи со знакомым специалистом по обработке данных, которому на тот момент было около 20 лет. Я тогда вскользь упомянула о том, что в школах Филадельфии недостаточно книг.