Инструменты искусственного интеллекта (ИИ) быстро стали неотъемлемой частью интернета: беспрецедентные инвестиции в эту технологию, проявляющиеся в виде чат-ботов, исследовательских инструментов и многого другого, привели к их повсеместному распространению. почти каждый аспект политической, экономической и социальной жизни. Наблюдается растущий интерес к применению ИИ в областях, связанных с фармацевтикой, благодаря его эффективности в «прогнозировании результатов», особенно в больших выборках населения; Исследователи искусственного интеллекта Полагаю, что его потенциал в выявлении рисков, связанных с употреблением наркотиков, может принести пользу тем, кто стремится разработать стратегии раннего вмешательства или профилактики.
Однако эксперты в области политики в сфере технологий искусственного интеллекта подняли важные вопросы. проблемы Что касается в значительной степени неоспоримого распространения новых технологий и того, какое влияние они могут оказать, особенно в отношении их использования в здравоохранении. Это особенно важно при проведении исследований, связанных с наркотиками, от мониторинга людей, употребляющих наркотики, до снижения вреда и профилактики наркомании.
Прогнозирование риска
Появляется все больше свидетельств использования ИИ в обработке биометрических данных, что имеет реальные последствия для здоровья и общества. Одна из таких областей — оценка рисков для людей, употребляющих наркотики, или тех, кто, по оценке, с большей вероятностью будет употреблять наркотики, в системах здравоохранения.
От сбора данных из профилей в социальных сетях до наблюдения за местоположением в режиме реального времени, искусственный интеллект все чаще используется для отслеживания привычек людей в отношении употребления наркотиков (или обсуждений об их употреблении), прогнозирования соответствующего поведения и, в конечном итоге, для выработки рекомендаций или принятия мер. Хотя большая часть этой технологии все еще находится на стадии концептуальной разработки или исследований, она пугающе напоминает технологии слежки. занятых в оборонном секторе в том, как они расширяют понимание того, какие модели поведения считаются «рискованными» и какие группы в них участвуют.
Одно исследование Предлагается использовать носимые устройства для отслеживания «рецидивов» употребления каннабиса. Рекомендуется долгосрочный пассивный мониторинг показателей стресса человека — таких как учащенное сердцебиение ночью, изменения физической активности и т. д. — для определения факта употребления каннабиса. Пассивный мониторинг — это методология. использовался в прошлом для наблюдения за группами, воспринимаемыми как угроза. Этот метод не опирается на сбор данных на основе самоотчетов, который часто используется при сборе конфиденциальной информации, например, о незаконной деятельности или состоянии здоровья. Исследование показывает, что по данной теме разработан значительный объем литературы, указывающий на растущее пренебрежение автономией в процессе профилактики.
Некоторые исследованиями Предлагается использовать модели машинного обучения для выявления корреляций между социально-экономическими факторами населения, показателями психического здоровья и стрессовыми факторами окружающей среды с целью «выявления уязвимости» к наркотической зависимости. Это можно сделать путем анализа медицинских записей, онлайн-активности или их сочетания, чтобы, по сути, предсказать, будут ли люди употреблять наркотики и становиться зависимыми от них.
Хотя сами по себе эти упражнения по оценке и прогнозированию рисков могут показаться безобидными, используемые в них методы сбора данных могут функционировать как механизмы наблюдения; их результаты легко могут быть использованы для того, чтобы предложить меры раннего вмешательства в отношении тех, кто считается представляющим риск – будь то для систем здравоохранения или безопасности.
Хлоэ Бертелеми, старший советник по вопросам политики в Европейской сети защиты цифровых прав (EDRIОрганизация, защищающая цифровые права в Европе, предположила, что «использование алгоритмов оценки рисков — это опасный скользкий путь»: прогностические модели ИИ обладают высоким потенциалом расовой, экономической и гендерной предвзятости в своих утверждениях. Последствия для тех, за кем ведется наблюдение, могут быть огромными: доступ к лечению или страховому покрытию может быть запрещен, или социальные пособия могут быть отменены, если кто-то будет признан склонным к рискованному поведению или преступной деятельности. Люди могут даже быть арестованы, если носимые устройства сработают из-за подозрения на употребление наркотиков, или стать объектом дополнительных полицейских мероприятий, если они ранее совершали преступления. Потенциальные области применения наблюдения за людьми, употребляющими наркотики или связанными с ними, безграничны.
Онлайн-наблюдение
Использование этих инструментов вызывает особую обеспокоенность в онлайн-пространстве, особенно в социальных сетях, где люди делятся контентом и потенциально признаются в противоправных действиях, полагая, что благодаря цифровому шифрованию они находятся в безопасности. Одна бумага Утверждается, что инструменты искусственного интеллекта могут анализировать публикации в социальных сетях, чтобы выявлять признаки намерения употреблять наркотики, отчаяния или другие «предупреждающие знаки», которые служат «цифровыми индикаторами» потенциального употребления наркотиков. Далее предполагается, что:
«Цифровые фенотипы, извлеченные из языка социальных сетей, могут служить инструментом скрининга для выявления пациентов с высоким риском прекращения лечения в начале терапии. Эта работа также закладывает основу для динамического непрерывного мониторинга во время лечения, чтобы лучше понимать ежедневные факторы, выходящие за рамки вероятности успеха пациента в первый день».
Эти фенотипы представляют собой языковые паттерны, коррелирующие с поведенческими паттернами, которые успешно использовались для идентификации этих пациентов в рамках исследования, но пока не показали потенциала для более широкого применения или большей точности.
Биополитический мониторинг потребителей наркотиков
Оба примера носимых устройств с поддержкой ИИ и инструментов прогнозирования вызывают ассоциации с биополитикой. критика тоталитарных обществ Это явление возникло задолго до появления ИИ. Биополитика на протяжении десятилетий подчеркивает, как современные общества все чаще разрабатывают инструменты для выявления групп или моделей поведения, которые считаются угрозами, рисками или преступлениями, используя механизмы контроля над населением для слежки и, по возможности, ограничения их деятельности. ИИ расширил масштабы, в которых можно проводить эти оценки; он также может рекомендовать действия, полностью исключая людей из процессов принятия решений, которые могут радикально изменить жизнь тех, за кем ведется наблюдение.
Как это часто бывает с подобными новыми инструментами, существует большая неопределенность в отношении показателей, используемых для выявления риска, особенно в отношении употребления наркотиков. Учащенное сердцебиение ночью может означать что угодно; история употребления наркотиков или демографические показатели не определяют будущие действия. Многое в отношении ИИ по-прежнему остается неясным.разумность«Процессы» — то, как модели формируют логику, лежащую в основе их рекомендаций. Именно поэтому особенно тревожно, когда исследователи изучают потенциальные варианты их применения, прежде чем вступать в надлежащее обсуждение того, каковы могут быть последствия их работы или каково было бы подвергнуться воздействию разработанных ими механизмов контроля.
Бертелеми отметил, что «в основе этих систем по-прежнему лежит контроль над уязвимыми людьми. Динамика власти в этих контекстах [в отношении носимых устройств], где один зависит от другого в плане поддержки или выживания, серьезно подрывает возможность получения подлинно свободного согласия на сбор данных. Кроме того, высок риск повторного использования данных в еще более вредных целях».
Это объясняет, почему EDRi занимает в целом скептическую позицию по отношению к использованию ИИ в целях социального благополучия, таких как мониторинг. Более того, способность любого человека дать информированное согласие на слежку ставится под сомнение, учитывая общественное восприятие слежки как позитивного инструмента для благополучия и снижения вреда.
Наркоробки
Инструменты искусственного интеллекта с ограниченными и четкими правилами конфиденциальности и использования данных могут быть полезны для снижения вреда. В беседе с Иваном Романом и Джошем Торрансом, разработчиками... DrugbotИ чат-бот на базе искусственного интеллекта, разработанный британской организацией по лечению наркозависимости Cranstoun, и оба проекта подчеркнули важность конфиденциальности в мире наркотиков.
Как сказал Торранс: «Пользователь должен доверять Drugbot, и наша обязанность — строить и поддерживать это доверие». Это включает в себя прозрачность в отношении того, как обрабатываются данные пользователей, ограничение разрешений на доступ к местоположению и целенаправленные усилия по... обучить модель предоставлять научно обоснованные рекомендации по снижению вреда и работать с конфиденциальной информацией.
Этот оптимистичный подход подчеркивает преимущества, которые технологические достижения и искусственный интеллект могут принести в расширении доступа к информации и поддержке. Например, Роман рассказал, как Drugbot обрабатывает данные о местоположении пользователей и их ответы, чтобы предупредить их об опасных загрязняющих веществах на окружающих рынках наркотиков. Хотя сбор и использование данных о местоположении может представлять риск для конфиденциальности пользователя, акцент на прозрачности может нивелировать эту проблему, поскольку основное внимание уделяется согласию пользователя на использование предлагаемых инструментов.
Само слово «наблюдение» подразумевает отсутствие выбора, а следовательно, и власти. Мониторинг групп риска должен осуществляться с учетом согласия и прозрачности, чтобы максимизировать эффективность, а также учитывать выбор потребителей наркотиков в отношении использования технологий, которые помогают обеспечить их безопасность. Наказания и контроль, осуществляемые с помощью инструментов оценки рисков и снижения вреда на основе искусственного интеллекта, основаны на пассивном участии пользователей, что еще больше лишает потребителей наркотиков автономии и безопасности.
Вопросы по поводу заявок остаются.
Как наблюдение и взаимодействие с программами обучения на основе ИИ и другими подобными инструментами могут повлиять на наш опыт обсуждения и изучения наркотиков в интернете? Хотя Drugbot — это один из примеров продукта, созданного людьми, заинтересованными в снижении вреда и обеспокоенными этой проблемой, важно отметить, что их подход может не разделяться всеми, кто изучает или отслеживает людей, употребляющих наркотики.
Хотя большая часть работы по прогнозированию употребления наркотиков и снижению рискованного поведения все еще находится на начальной стадии, ее потенциальное применение действительно ведет к опасному слежению, нарушению конфиденциальности и контролю над населением. Некоторые из представленных здесь исследований показывают, что процесс внедрения этих идей на практике уже начался. Тем, кто создает эти модели, необходимо остановиться и задуматься о последствиях своей работы и о реальных, потенциально меняющих жизнь последствиях, которые может повлечь за собой их деятельность.
