인공 지능과 관련된 위협이 일부 사람들이 우려하는 것만큼 나쁠까요? 아니면 AI가 상대적으로 무해할까요? 그 대답은 그 사이 어딘가에 있을 수 있습니까?
AI에 대한 관점은 다양합니다. 의료, 보안, 교육 등 AI 우위를 추구하는 새로운 애플리케이션이 계속 증가하고 있습니다. 이로 인해 선의의 억제와 규제, 또는 최소한 성장과 확산 둔화가 필요하다는 목소리가 높아지고 있습니다.
이러한 두려움을 조금이나마 덜어주기 위해 우리는 AI가 상당한 이점과 잠재력을 제공하는 것으로 입증되고 있는 한 가지 영역, 즉 의학과 의료 서비스 제공을 고려해야 합니다. 메드스케이프 메디컬 뉴스(Medscape Medical News)의 최근 기사는 AI가 보다 정확하고 신뢰할 수 있는 의료 서비스를 제공하는 데 이점을 제공한다는 연구를 강조합니다. 스크립스 중개 연구소(Scripps Research Translational Institute)의 설립자 겸 소장인 에릭 토폴(Eric Topol)은 의료의 미래는 의료 오류 감소, 보다 강력한 진단 및 치료 계획 제공과 같은 이점을 제공하는 AI에 있다고 주장했습니다.
어떤 사람들은 AI가 감정을 가지고 있지 않기 때문에 인간의 상호 작용, 공감 및 감수성을 요구하는 기능을 대체할 수 없다고 주장할 것입니다. AI가 감정이나 윤리를 가지고 있지 않은 것은 사실이지만, AI 의료 시스템은 느낄 필요가 없습니다. 그리고 환자가 의사에게 원하고 확실히 필요로 하는 것은 시간과 관심이며, 이를 위해서는 AI 시스템이 풍부하게 가지고 있는 인내심이 필요합니다. 사실, 어떤 사람들은 참을성을 인간의 감정 이입과 감수성의 대용품으로 해석할 수 있는 반면, 조급함은 그러한 인간 특성의 정반대인 것으로 해석될 수 있습니다.
기업이 의료 행위를 구매하고 궁극적으로 의료 행위와 의료 서비스 제공에 영향을 미치기 때문에 의사와 의료 서비스 제공자는 더 많은 의료 비용을 더 촉박한 기간에 쥐어짜야 합니다. 이는 더 많은 오진과 열악한 의료 서비스 제공의 여지를 제공합니다.
AI 의료 시스템은 인간 임상의보다 훨씬 더 빠르게 정보를 처리할 수 있습니다. AI 의료 시스템은 또한 인간 의사 및 임상 제공자보다 몇 배 더 많은 의료 데이터와 지식에 액세스하고 소화할 수 있습니다.
즉, AI 의료 시스템은 더 낮은 비용으로 진단을 신속하게 하고, 적절한 치료 계획을 식별하고, 생명을 구할 수 있는 비정상적인 상태를 발견할 수 있습니다. 그들은 심지어 알려진 모든 가능한 질병의 가능성을 철저하게 제거함으로써 새로운 상태를 식별하고, 제거 과정을 통해 새로운 지식을 효과적으로 창출 할 수 있습니다.
그러나 AI 의료 시스템에는 한계와 위험이 있습니다.
AI 의료 시스템을 훈련하는 데 사용되는 과다한 데이터는 의사와 인간 중심의 의료 서비스 제공에서 비롯되었습니다. 이러한 데이터 소스가 AI 생성 데이터에 압도되면 어느 시점에서 AI 의료 시스템은 AI 의료에서 생성된 데이터에 주로 의존하게 될 것입니다.
대부분의 출력은 복잡한 통계적 연관성을 기반으로 하는 관측값입니다. 이러한 모델, 이러한 모델이 데이터를 사용하는 방법 및 결과를 얻는 방법을 이해하는 의료 인력은 거의 없습니다.
물론 임상의학의 대부분은 근거에 기반하며, 이는 임상시험이나 확장된 관찰 경험을 기반으로 합니다. 이러한 맥락에서 볼 때, AI 의료 시스템은 인사이트를 얻을 수 있는 시간이 극히 제한되어 있는 유사한 접근 방식을 취하고 있습니다.
다음 데이터 편향 및 개인 정보 보호 문제가 있습니다.
의료 데이터는 편향된 세계에서 나오기 때문에 본질적으로 편향되어 있습니다. 이러한 데이터를 정제하면 데이터가 변경되어 AI 의료 시스템에 예상치 못한 방식으로 편향될 수 있는 예상치 못한 결과가 발생할 수 있습니다. 심지어 그러한 시스템의 효율성을 손상시킬 수도 있습니다. 단기적으로 데이터 편향 문제를 해결하려면 오늘날 인간 시스템이 이를 관리하는 방식과 마찬가지로 백엔드에서 관리해야 합니다. 장기적인 목표는 좀 더 복잡한데, AI 시스템 자체가 편향되지 않은 방식으로 이러한 편향을 제거하도록 하는 것입니다.
우려되는 또 다른 문제는 데이터 개인 정보 보호인데, 이는 과장되고 종종 증폭되어 두려움을 불러일으킵니다. 개인 정보 보호 장치는 항상 고려되어야 하지만 완전하고 완전한 개인 정보를 보장할 수 있는 확실한 방법은 없습니다. 많은 사람들이 종종 생각 없이 개인적인 편의를 위해 무심코 사생활을 희생합니다.
사람들은 종종 개인 정보 보호와 데이터에 대한 개인적인 제어를 혼동합니다. 그러나 우리가 소셜 미디어를 사용할 때와 같이 우리의 축복 하에 우리의 개인 데이터에 액세스하도록 허용하는 것은 다른 사람들이 우리의 데이터에 무의식적으로 액세스하는 경우보다 우리를 더 안전하게 보호하지 못합니다.
AI 의료 시스템에는 입력으로 익명화된 데이터가 필요합니다. 익명화 프로세스의 무결성을 보호하는 것은 합리적으로 기대할 수 있는 것입니다.
쉽게 이해할 수 없는 것은 무엇이든 두려움을 불러일으킬 수 있습니다. AI는 확실히 자격이 있습니다. 불확실성과 위험으로 가득 찬 세상에서 모든 종류의 AI 시스템은 엄청난 이점을 제공합니다. 그러나 우리를 둘러싼 불확실성과 위험은 AI로 기적적으로 사라지지 않을 것입니다. 이와 관련하여 공짜 점심은 없습니다.
신중함과 주의함은 합리적입니다. AI의 발전을 막거나 늦추려는 노력은 우리가 정말로 두려워해야 할 것입니다.
이상의 기사는 2024년 5월 28일 MedicalXpress에 게재된 “Opinion: What should we fear with AI in medicine?”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : Opinion: What should we fear with AI in medicine? (medicalxpress.com)
저작권자 ⓒ 창조아고라, 무단 전재 및 재배포 금지