Власти Мичигана планируют внедрить в тюрьмах штата новую программную систему для классификации заключённых по уровням размещения. По сообщениям, Департамент исправительных учреждений Мичигана намерен использовать алгоритм, который будет распределять людей по категориям.
В штате предусмотрено пять уровней размещения, соответствующих классификации по степени безопасности. Раньше заключённых оценивали комиссии сотрудников, назначенных начальником каждого учреждения. Теперь штат намерен использовать для этой оценки программное обеспечение некоммерческой компании Recidiviz.
Recidiviz начиналась как проект по работе с данными в Google. Его целью было «выяснить, как технологии могут стандартизировать данные системы уголовного правосудия и улучшить её по всей стране». В платформу компании встроены инструменты, которые, как утверждается, помогают выявлять людей, имеющих право на участие в государственных программах, пересмотр классификации или освобождение, а также координировать доступ к ресурсам — например, временному жилью и трудоустройству.
В удалённом позднее пресс-релизе Департамент исправительных учреждений Мичигана сообщил, что программное обеспечение Recidiviz будут использовать для «оптимизации размещения заключённых». Планировалось начать пилотный проект в ряде мужских учреждений. По заявлению ведомства, инструмент должен «примерно на 30 процентов повысить способность департамента точнее прогнозировать риск будущего насилия со стороны заключённых». Как была рассчитана эта цифра, не пояснялось.
Департамент и Recidiviz заявили, что разрабатываемый для тюрем Мичигана модуль классификации не использует искусственный интеллект для принятия решений о размещении.
«Инструменты Recidiviz никогда не используют ИИ для принятия решений об уровне безопасности или освобождении кого-либо», — заявил представитель компании.
При этом искусственный интеллект занимает заметное место на сайте Recidiviz и в рекламных материалах компании. В одном из пояснений сказано, что «платформа Recidiviz для исправительных учреждений использует данные, автоматизацию и ИИ, чтобы экономить время сотрудников». В описании возможностей модуля Intake говорится, что он позволяет сотрудникам учреждений «проводить диалоговые оценки на основе ИИ: люди могут отвечать в удобном темпе и на предпочитаемом языке, а сотрудники при этом получают необходимые данные».
На странице компании об использовании ИИ говорится, что эта технология «помогает сократить объём повторяющейся работы, быстрее выявлять важные закономерности и повышать согласованность работы команд». Среди других примеров применения ИИ Recidiviz называет «генерацию кода для наших платформ с открытым исходным кодом» и «подбор людей для работы, услуг или поддержки с учётом их потребностей».
Представитель Департамента исправительных учреждений Мичигана по связям с общественностью Дженни Риле заявила, что Recidiviz разрабатывает инструменты ИИ, помогающие сотрудникам, например, расшифровывать совещания, однако искусственный интеллект «никогда не используется для принятия решений об уровне безопасности или освобождении отдельного человека».
Без подробного изучения устройства модуля остаются вопросы о том, где именно в платформе Recidiviz применяется ИИ. Ставки для заключённых высоки: уровень размещения определяет, какие программы и ресурсы им доступны, а также с кем они будут находиться в одном учреждении на протяжении срока заключения.
Расследование аналогичного программного обеспечения для оценки рисков в Луизиане выявило, что данные, использовавшиеся для классификации заключённых, содержали систематические расовые и социально-экономические перекосы.
В результате тюремная система Луизианы стала ещё жестче и причиняла больший вред людям, которые добросовестно стремились к реабилитации. В одном из описанных случаев слепого 70-летнего мужчину, передвигавшегося на инвалидной коляске и не имевшего дисциплинарных взысканий, отнесли к категории «умеренного риска» повторного правонарушения. Такая классификация автоматически лишала его права на условно-досрочное освобождение.
Система Мичигана предназначена для распределения заключённых по учреждениям, а не для принятия решений об условно-досрочном освобождении. Однако программное обеспечение само по себе вряд ли решит продолжающийся кризис исправительной системы штата. Опыт Луизианы показывает, что вера в технологические решения может, напротив, значительно усугубить ситуацию.