Затворите в САЩ поверяват оценката на затворниците на AI
Властите в американския щат Мичиган ще въведат система с изкуствен интелект (AI), която ще оценява колко опасни са лишените от свобода и доколко е вероятно да извършат нови прояви на насилие. Технологията ще участва в определянето на условията, при които затворниците изтърпяват присъдите си.
Според местната телевизия Fox2 Министерството на затворите в Мичиган вече подготвя внедряването на алгоритъм, който ще разпределя лишените от свобода в различни категории според нивото на сигурност.
Досега затворниците в щата са били разпределяни в пет категории. Оценката се е извършвала от комисия от служители, назначени от началника на съответния затвор. Сега тази процедура ще бъде подпомагана от софтуер на технологичната организация с нестопанска цел Recidiviz.
Компанията започва като проект за организиране на данни в Google. Първоначалната идея е била да се проучи как технологиите могат да стандартизират информацията в системата на наказателното правосъдие и да подобрят работата ѝ в национален мащаб.
Платформата на Recidiviz използва изкуствен интелект и предлага различни инструменти за анализ. Сред тях са откриване на затворници, които отговарят на условията за участие в държавни програми, промяна на категорията им за сигурност или освобождаване. Софтуерът може да координира и достъпа до ресурси като временно жилище и възможности за работа след излизане от затвора.
В съобщение от 29 октомври Министерството на затворите в Мичиган обяви, че системата ще се използва за “оптимизиране на настаняването на лишените от свобода”. Първоначално ще бъде стартирана пилотна програма в няколко мъжки затвора. Очаква се тя да започне през декември.
Според ведомството новият инструмент трябва да подобри способността на администрацията да прогнозира риска от бъдещо насилие сред затворниците с приблизително 30%. Не е ясно обаче как властите са достигнали до тази оценка и на какви данни се основава тя.
Категорията за сигурност има сериозно значение за живота на лишените от свобода. Тя определя не само условията, при които ще бъдат настанени, но и до какви програми, услуги и ресурси ще имат достъп по време на присъдата си.
Предстоящото въвеждане на AI системата обаче повдига въпроси за точността на алгоритмите и информацията, върху която те ще работят.
Разследване на ProPublica за подобна програма в щата Луизиана установява, че използваните данни съдържат расови и социално-икономически предразсъдъци. Това може да доведе до несправедливи оценки и решения, които затрудняват реабилитацията на затворниците.
В един от описаните случаи 70-годишен мъж, който е сляп и използва инвалидна количка, е определен като човек с “умерен риск” от повторно престъпление. Той е имал чисто дисциплинарно досие. Последицата от тази оценка обаче е автоматична загуба на правото да кандидатства за предсрочно освобождаване.
Системата в Мичиган няма да взема директни решения за предсрочно освобождаване. Основната ѝ задача ще бъде да определя настаняването на затворниците. Въпреки това примерът от Луизиана показва как алгоритмичните оценки могат да имат сериозни последици за хората, които попадат под тяхното наблюдение.
Според Futurism внедряването на изкуствен интелект само по себе си едва ли ще реши продължаващите проблеми в затворническата система на Мичиган. Съществува и риск новата технология да задълбочи някои от тях, ако използваните данни или методите за оценка се окажат пристрастни.
Министерството на затворите в Мичиган е потърсено за коментар по случая.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
