I. 서론
저자 김준혁은 보건의료의 민주성 및 공공성을 확보하기 위해서는 헬스케어 AI(artificial intelligence) 윤리에서 환자·시민 참여의 역할이 핵심적이라는 점을 확인하고, 의료 인공지능에 있어서 기본적인 윤리 원칙을 제시하며, 선행 연구에 대한 문헌 연구를 바탕으로 환자·시민 참여 모델을 구상하고 있다.
본 논평은 의료 인공지능 시대에서 환자 및 시민의 참여에 주목하고 있는 저자의 논의가 지능정보사회에서 적확하고 시의 적절한 쟁점을 다루고 있다는 전제에서, 오늘날 의료 패러다임의 변화 양상을 개략적으로 제시하고자 한다. 이와 더불어 저자의 논문에서 다소 모호하고 추상적으로 다루어지고 있기에 저자의 후속 논의에서 해결되길 바라는 몇 가지 쟁점을 제시하는 것으로 논평에 갈음하고자 한다.
II. 본론
인공지능 기술이 이끄는 지능정보사회에서 의료 분야의 변화 양상과 관련하여, 건강의 개념 및 범위가 확장하고, 다양한 출처를 통해 축적되는 의료 빅 데이터(big data)가 급속히 증대하며, 특히 비정형 데이터(unstructured data)가 차지하는 비중이 높아지고, 이에 따라 21세기 이후 지속되어 온 보건(healthcare)과 의료(medicine)의 통합 현상이 가속화될 것이라는 전망이 제시되어 왔다[1]. 이러한 전반적인 변화 양상은 기존의 의학과 구별되는 새로운 현대의학의 방향성과도 맞물려 있다고 할 수 있다. 일찍이 르로이 후드(Leroy Hood)는 현대의학을 특징짓는 속성을 예측적(predictive), 예방적(preventive), 개별 맞춤형(personalized), 참여적(participatory) 의료로 제시한 바 있다[2]. 후드가 이른바 P4라 지칭한 현대의학의 변화 양상은 의료서비스의 공급자인 의료인 및 의료기관에서 환자 및 소비자 중심으로의 전환을 의미한다[3]. 곧, 데이터 중심의 현대의학에서는 환자 개인이 제공하는 데이터에 기반하여 개별 맞춤형의 정밀한 의료 판단이 가능해지며, 이렇게 볼 때 환자의 적극적이고 실질적인 참여는 현대적 의료의 기본 전제가 된다고 할 수 있다.
환자의 참여가 갖는 의미의 변화는 의료 정보 및 지식의 비대칭성으로 인해 후견주의적 관계에 서 있었던 기존의 의사-환자 관계가 수평적이고 상호 지향적으로 변화하도록 추동한다. 이는 시민으로서 환자의 지위, 곧 환자의 시민성(citizenship)과 의료 주권, 그리고 의료민주주의 및 의료접근성을 제고한다는 의미를 함축한다. 이와 더불어 의사와 환자 간의 관계뿐만 아니라 의료인과 인공지능의 상호작용적 관계 역시 논할 필요가 있다. 의료 인공지능과 관련된 선행 연구의 추이를 살펴보면 인간-인공지능이 공동으로 참여하는 의사결정 과정에 주목하고 있음을 알 수 있다[4].
이렇듯 인공지능 기술의 발전을 통해 시민적 참여, 접근성, 민주주의가 제고되고, 인간과 인공지능 간의 협업적 파트너십이 강화되는 경향성은 의료와 같은 대표적인 전문 분야에서 전반적으로 발견되고 있으며, 향후에도 비슷한 양상이 펼쳐질 것으로 전망된다. 예컨대 사법 인공지능의 도입은 국민의 사법 접근성(access to justice)을 고양하고자 하는 사법정책적 정당성과 밀접하게 관련되어 있으며[5], 법률서비스에서도 마찬가지로 인간과 인공지능 간의 ‘노동 분배(division of labor)’ 시스템이 본격적으로 논의되고 있다[6].
곧, 보건의료 분야에서 인공지능 기술의 상용화는 의사, 환자, 인공지능이 상호적으로 연결되는 하이브리드(hybrid) 관계를 형성하도록 추동할 것으로 전망된다.
III. 결론
의료 인공지능의 도입 및 수용이 본격화되는 시점에서 윤리적 요청은 더욱 강화되리라는 전망을 해볼 수 있고, 여기에서 핵심은 ‘시민으로서 환자(patients as citizens)’의 참여를 보장하고 권익을 보호하는 것이라 할 것이다. 이러한 윤리 원칙의 확립은 의료 인공지능에 대한 사회적 수용성을 확보하기 위해서도 필수적인 고려 사항이다.
다만 저자의 논의에서는 환자·시민 참여라는 개념에 대한 정의(definition)가 제시되어 있지 않아 그 구체적인 실체를 가늠하기 어렵다. 다시 말해 논의에서 지속적으로 사용되고 있는 ‘환자·시민 참여’가 지나치게 추상적이고 관념적이라는 인상이 강하다. 이를 구체적으로 논하기 위해 저자는 해당 주제와 관련된 선행 연구의 추이 및 내용을 검토하고 있으나, 해당 논의에서도 환자·시민 참여를 어떻게 이해하는지가 제각기 다른 것으로 보인다. 실제 보건의료 영역에서 환자·시민 참여는 의사의 설명의무 강화, 시민의 건강 문해력 제고를 위한 총체적 교육, 환자의 자기 결정권 보장을 위한 절차 제공, 시민단체의 모니터링 및 피드백 결과 반영 등 다양한 층위에서 다양한 양상으로 이루어지는 것이다.
다음으로 저자는 헬스케어 AI 윤리가 준수되도록 하기 위해 외부 검증의 필요성을 강조하면서 자율규제 프레임워크를 제안하고 있는데, 이 역시 해당 규제가 어떠한 절차로 작동할 수 있는지에 대한 구체적인 방안이 제시되었다고 보기는 어렵다. 인공지능 거버넌스(AI governance)를 구상하는 데 있어서 자율규제(self-regulation)가 주되게 논의되고 있는 것은 사실이지만[7], 이것을 현실화하기 위한 절차주의적 제도가 고려되어야 저자가 제안하고자 하는 프레임워크의 전반적 구상을 이해할 수 있을 것이다.
나아가 저자가 제시하는 바와 같이 환자·시민 참여의 범위를 외부 검증으로 한정한다고 하여도 환자·시민의 이익을 고려하는 대표성을 확보한 검증 주체는 어떻게 결정할 것인지, 인공지능 개발자 및 운영자의 영업비밀 등 지적재산권을 고려할 때 검증의 범위를 어디까지 설정할 것인지, 헬스케어 AI에 대한 검증이 고도의 과학기술 전문지식을 필요로 한다는 점을 고려할 때 위험 통제의 관점에서 비전문가의 참여는 제한될 수밖에 없다는 점은 어떻게 반영할 것인지 등에 대한 논의의 공백이 잔존한다는 점을 지적할 수 있겠다.
상기의 논의들이 후속의 연구과제로 남겨져 있다고 할 것이며, 이러한 기초 논의를 바탕으로 향후 구체적인 실천 사례를 고안하고 발굴하는 것이 가능하리라 생각된다.
