[태그:] 기계 학습

인공지능의 신뢰성 확보.

현재 인공지능 분야는 챗GPT의 등장 이후 우리 사회에 큰 경종을 울리고 있다. 다양한 산업과 융합하며 경제·사회 전 분야의 획기적 혁신을 주도하고 있으며 이에 따라 신뢰성에 대한 중요성도 날로 높아지고 있다. 사실 최근까지 이에 관련된 법률의 부재로 명확한 기준이 없었지만, 지난 2월 14일 국회 과학기술정보방송통신위원회 법안심사소위원회에서 ‘인공지능산업 진흥 및 신뢰 기반 조성 등에 관한 법률안’이 통과되었다. 개인적으로 국내 인공지능 사업 진흥과 더불어 신뢰성 기준에 대한 기반 마련에 한 걸음 나아가게 된 점에서 기쁘게 생각한다. 하지만 해당 법안에 악법이라 주장하는 목소리도 적지 않다. 이 법안을 반대하는 가장 큰 이유로 인공지능 기술의‘우선허용·사후규제 원칙’이 독소조항이라는 것이다. 이러한 주장에 대해 국내 인공지능 기술 수준, 신뢰성, 그리고 창의 정신에 대한 관점에서 고민해 보고자 한다.

먼저, 국내 인공지능 기술은 글로벌 수준에 비해 아직 미진한 수준에 머물러 있어 규제보다는 진흥이 더 필요한 상황이다. 우선 허용 후 사후 규제 방식은 인공지능 기술이 시장에서 테스트 및 개선의 기회가 될 수 있으므로 이는 현재 많은 대기업과 스타트업이 진행 중인 투자와 연구에 큰 힘이 될 수 있다. 이러한 상황에서 과도한 규제가 도입된다면 국내 기업들의 기술 발전은 저해될 수 있다. 혹자는 미리 국제기준에 준한 규제가 필요하다고 한다. 대표적으로 유럽연합(EU)의 인공지능법을 말할 수 있겠다. 이 법은 인공지능의 위험성을‘수용불가능한 위험’,‘고위험’,‘제한된 위험’,‘최소 위험’의 4단계로 나누어 AI기업에 위험관리 시스템을 구축하고 유지하는 등의 의무를 부과하고 있다. 글로벌 AI 기업의 경우 이미 대량의 인프라와 기술력을 보유하고 있기 때문에 위의 법률에 대응할 수 있는 환경을 갖추고 있다. 하지만 앞서 말했듯 국내는 미진한 수준이기 때문에 위의 법 수준의 규제는 오히려 심각한 발목잡기가 될 수 있다. 따라서 현재 상황에서 규제를 말한다는 것은 국내 수준에서 고려하면 매우 위험한 결정이 될 수도 있을 것이다.

두 번째로, 고위험영역에 대한 인공지능 규율이 자칫하면 편향된 신뢰성을 갖춘 인공지능을 양산할 수 있다는 점이다. 이미 인공지능 기술은 의료, 교육, 환경, 국방 등 다양한 분야에서 활용되고 있다. 이러한 상황에서 고위험영역이라는 명목 아래 시장과 기술이 아니라 법과 규제로 제약하게 된다면, 이는 개발자들의 창의적인 아이디어와 도전 정신에 제약이 될 수 있으며 결국 편향된 신뢰성을 갖춘 인공지능을 양산하게 될 수 있다는 점이다. 이는 인공지능의 신뢰성에 대한 논란을 일으킬 수 있으며, 동시에 이 법의 기본원칙인 인공지능사업자의 창의 정신 존중을 위배하는 것이다.

세 번째로, 인공지능 기술은 전반적인 국내외 산업 생태계에 걸쳐 점점 더 중요한 역할을 하고 있으며 이는 거스를 수 없는 흐름이라는 것이다. 이미 제조, 금융, 의료, 교육, 물류 등 거의 모든 산업 분야에서 인공지능 기술은 새로운 가치 창출의 원동력이 되고 있다. 이를 통해 더 높은 수준의 업무 효율성과 경쟁력을 추구할 수 있게 되었으며, 기존의 일자리와 산업 패러다임을 변화시키고 있는 게 현실이다. 인공지능의 급격한 발전으로 인한 막연한 두려움 때문에 강력한 규제를 밀어붙이게 된다면, 19세기 영국에 있었던 러다이트(기계파괴) 운동과 같은 역사적 해프닝을 지금, 21세기에 다시 한번 곁을 수도 있다는 걸 명심해야 한다.

최근 촉발된 인공지능 기술의 급속한 발전은 많은 이들에게 새로운 기술에 대한 기대감과 동시에, 나의 일자리가 인공지능으로 대체될 수 있다는 걱정에 많은 이들의 불안감이 커지는 것도 사실이며, 법안에 대한 반대의 목소리 역시 이 불안감에서 시작된 것이 아닐까 생각된다. 하지만 기술의 발전은 무작정 막을 수도 없는 노릇이다. 이럴 때일수록 반대부터가 아닌, 정부 주도를 넘어서 기업·연구기관·시민사회 등 다양한 이해관계자들이 모여 함께 신뢰성 기준에 대한 사회적 논의를 취하는 것이 바람직할 것이다. 동시에 윤리적인 관점에서 인공지능을 어떻게 바라봐야 하는지에 대한 교육을 통해 신뢰성 있는 인공지능 발전을 지속적으로 이끌어내고, 이를 바탕으로 우리 사회가 더 나은 미래를 향해 나아갈 수 있도록 해야 할 것이다.