Gizmodo에 따르면, 네바다주에서 사용하는 클라우드 기반 AI 시스템은 기록을 분석하고 실업 수당 청구를 수락해야 하는지에 대한 결정을 내릴 것이라고 합니다. 이는 정부 복지와 관련된 의사결정을 지원하기 위해 기술을 활용하는 데 있어 새로운 진전입니다.

네바다 인디펜던트에 따르면, AI는 네바다주의 실업 법률과 정책에 대해 훈련을 받았습니다.

시스템은 온라인 심리 회의록을 분석한 후 결과를 제공합니다. 그러나 주정부 직원은 이를 신중하게 검토하여 오류가 없는지 확인한 후 승인 여부를 결정합니다.

이 기술은 네바다 고용, 훈련 및 재활부(DETR)의 현재 처리 절차를 대체하는데, 현재 직원 한 명이 처리하는 데 평균 3시간이 걸립니다.

DETR의 IT 관리자인 칼 스탠필드에 따르면, Vertex 클라우드 플랫폼을 사용하는 Google의 AI 시스템은 단 5분 안에 결정을 내릴 수 있습니다. 스탠필드 씨는 "시간이 많이 절약됩니다"라고 말했습니다.

네바다주가 이 새로운 기술을 채택하기로 결정한 이유를 이해하는 것은 어렵지 않습니다. 6월 현재, 해당 주에서는 10,000건 이상의 실업 수당 신청이 쌓여 있으며, 이 중 약 1,500건은 팬데믹으로 인한 것입니다.

기술이 제대로 작동하고 직원이 잠재적인 오류를 적시에 발견한다면, 그 과정은 훨씬 더 빠르고 효율적이 될 것입니다.

그러나 일부 전문가들은 이처럼 민감한 결정에 AI를 사용하는 것에 대해 우려를 표명합니다. 미국 노동부 실업 정책 현대화 담당 전 부국장인 미셸 에버모어는 인간 근로자가 신중한 고려 없이 AI의 결정을 "신속하게 승인"하도록 압력을 받을 수 있다고 경고했습니다.

스탠필드는 주정부가 AI 모델을 세부적으로 조정하는 동안 감독 위원회가 매주 회의를 열고, 시스템이 완전히 작동하면 분기별로 회의를 열 것이라고 덧붙였다. 회의의 목적은 의사 결정 과정에서 발생하는 '실체 없는' 오류와 편견 관련 문제를 추적하는 것입니다.

네바다주 의원이 복지 관련 결정에 AI를 사용하는 것에 대한 우려를 공개적으로 표명했습니다. "우리는 정신을 잃어가고 있는 걸까?" 주 상원의원 스킵 데일리에게 질문했습니다. 그는 알고리즘과 컴퓨터에 지나치게 의존하는 것에 회의적인 입장을 표명했으며, 이 기술을 적용할 때는 신중함이 필요하다고 강조했습니다. 그는 또한 속도를 우선시하는 것이 올바른 방향이 아닐 수도 있다고 경고했습니다.

실업 처리와 같은 공공 서비스를 지원하는 데 AI가 활용되면서 네바다는 새로운 기회와 과제에 직면하게 되었습니다. 이 시스템은 매우 효과적일 수 있는 잠재력을 가지고 있지만, AI가 내리는 결정의 정확성과 공정성을 보장하는 것은 긴밀하게 모니터링하고 통제해야 할 문제로 남아 있습니다.