AI 시스템, 처방약처럼 라벨링 해야 할까? MIT 연구팀의 제안
AI 시스템 사용의 안전과 신뢰를 높이기 위한 라벨링 필요성
AI가 날로 발전하면서 의료 분야에서도 그 활용도가 증가하고 있습니다. 그러나 AI 모델은 때때로 잘못된 정보를 생성하거나 편향된 예측을 하는 등의 문제를 일으킬 수 있습니다. 이러한 문제는 환자와 의료진에게 심각한 영향을 미칠 수 있습니다. MIT와 보스턴 대학의 연구팀은 이러한 위험을 최소화하기 위해 AI 시스템에 처방약처럼 '책임 사용 라벨'을 붙여야 한다고 주장합니다.
라벨링을 통해 사용자들이 '잠재적 부작용', '경고 및 주의사항', '부정적 반응'에 대해 인지할 수 있습니다.
이미지 출처: MIT 뉴스
라벨링의 필요성과 중요성
마르지예 가지미(Marzyeh Ghassemi) 교수는 "의료 현장에서는 종종 완전히 이해되지 않은 기술이나 치료법에 의존하는 경우가 많습니다. 예를 들어, MRI 기계를 어떻게 서비스하는지 의사가 알 필요는 없지만, 그 대신 기계가 잘 작동하는지 확인하는 인증 시스템이 존재합니다."라고 말합니다.
의료 기기의 경우 제조사의 기술자가 고장을 수리하며, 승인된 약물은 시장 출시 후 부작용이나 이상 반응을 포착하기 위한 모니터링 체계가 있습니다. 하지만 AI 모델 및 알고리즘은 이런 승인 절차나 장기적인 모니터링이 부족한 실정입니다. 따라서 AI 모델이 인간 의사의 편향된 판단을 그대로 따라가거나 잘못 조정된 임상 지원 점수를 자동화하는 것을 방지하기 위해 라벨링 시스템이 필요합니다.
라벨에 포함되어야 하는 핵심 정보
가지미 교수는 라벨이 반드시 포함해야 할 핵심 정보로 시간, 장소, 사용 방법을 꼽습니다. 예를 들어, AI 모델이 특정 시점의 데이터를 사용해 훈련되었는지, COVID-19 팬데믹 기간의 데이터를 포함하고 있는지 등을 명시해야 한다고 설명합니다. 모델이 훈련된 장소와 특성도 중요한 정보입니다. 다른 지역에서 훈련된 모델이 특정 지역에서 제대로 작동하지 않을 수 있기 때문입니다.
논문: "Using labels to limit AI misuse in health"
예를 들어, AI 모델이 특정 질병 예측을 위해 훈련되었을 때 그 시점과 장소에 대한 정보를 확인하면 사용자는 모델의 예측을 더 현명하게 평가할 수 있습니다. 그러나 다목적 사용이 가능한 생성형 모델들은 더욱 세밀한 사용 조건과 승인된 사용 방식에 대한 정보를 필요로 합니다.
라벨링과 규제
AI 라벨링이 도입된다면, 개발자와 배포자가 처음 라벨을 작성하고 관련 기관에서 이를 검증해야 합니다. 또한, AI 모델 개발 시점에서 데이터 수집 범위, 기간, 샘플 크기 등을 공개함으로써 잠재적인 문제를 사전에 인지하고 해결할 수 있도록 유도해야 합니다.
결론적으로, AI 모델과 약물 모두 완벽하지 않으므로 항상 일정한 위험이 따릅니다. 사회적으로 이러한 이해가 확산되며 AI 시스템의 책임감 있는 활용을 촉진해야 합니다.
더 알아보기
관련 기사
AI와 의료 분야의 미래는 더욱 밝습니다. 그러나 그 미래를 올바르게 준비하기 위해서는 AI 시스템의 투명성과 책임성을 높이는 라벨링 시스템이 필요합니다. 여러분의 생각은 어떠신가요? 댓글로 공유해주세요!
관련 링크를 통해 더 많은 정보를 확인할 수 있습니다.
