AI 시대, 책임감 있는 AI의 부상

AI 기술이 발전하고 우리 삶의 다양한 측면에서 이용되면서 필수적으로 AI가 초래할 수 있는 잠재적 위험과 영향을 고려해야 한다. ‘책임감 있는 AI’라는 개념은 인공지능 시스템 사용의 윤리적, 사회적, 법적 영향을 다루기 위해 도입되었다. 즉, ‘책임감 있는 AI(Responsible AI)’란 인공지능 시스템을 개발, 운영, 배포하는 과정이 윤리적이고 투명하며 사용자 개인정보와 사회적 가치를 존중하는 방식으로 이뤄지는 것을 의미한다. 책임감 있는 AI는 직원과 비즈니스에 권한을 부여하고 고객과 사회에 공정한 영향을 미치려는 선한 의도로 AI를 설계, 개발 및 배포하는 과정에서 기업이 신뢰를 쌓고 자신 있게 AI를 확장할 수 있도록 지원한다.

책임감 있는 AI의 개념과 원리

책임감 있는 AI는 AI 기술이 인간의 가치와 복지에 부합하는 책임감 있는 방식으로 사용되도록 다음과 같은 일련의 원칙과 관행을 포함한다.

먼저 ‘AI 시스템의 윤리성’이다. 윤리적 의사결정·공정성·투명성·책임성·인권 같은 원칙을 준수할 것을 강조한다. 또한 AI 시스템이 잠재적으로 미칠 사회·경제·환경적 영향을 고려하고 AI 시스템의 운영 과정이 윤리적 지침에 부합하는지 확인하는 과정을 거친다.

두번째 ‘AI 시스템의 투명성·공정성’은 모형의 알고리즘이 내린 결정을 설명하고 입력 데이터, 학습 방법 및 의사결정 프로세스에 대한 정보를 사용자와 이해 관계자가 공유하도록 하여 AI 시스템의 투명성을 증진한다. 인종, 성별, 연령 등의 요인에 따라 차별적인 결과를 초래할 수 있는 데이터 수집 및 알고리즘 모델의 편견을 식별하고 해결하여 AI 시스템의 편견을 완화하고 공정성을 보장한다.

세번째, ‘AI 시스템의 거버넌스 구축’은 명확한 거버넌스 프레임워크 구축, 역할과 책임 정의, 정기적인 감사 실시, 윤리 지침 및 규제 요건 준수 보장 등을 통해 AI 시스템의 결정과 행동에 대한 책임을 강조한다. 책임감 있는 AI를 통해 주요 목표를 설정하고 거버넌스 전략을 수립하여 기업이 발전할 수 있는 시스템을 구축할 수 있다.

마지막으로 ‘인간 중심 AI 시스템’은 AI 시스템에 대한 감독과 통제를 통해 AI 시스템이 인간을 대체하는 것이 아니라 인간의 역량을 강화할 수 있도록 보장한다. AI 기술이 개인, 커뮤니티, 사회 전체에 미칠 수 있는 잠재적 결과에 대해 긍정적인 영향은 극대화하고 부정적인 영향은 최소화하도록 하여 기술의 혁신과 개인 및 사회의 복지 사이의 균형을 맞추도록 노력한다.

AI의 금융 서비스 분야 응용

AI는 효율성, 위험 관리, 고객 경험, 의사결정 프로세스를 개선하여 금융 서비스 산업에 혁신을 가져왔다. 금융 서비스 분야의 주요 AI 애플리케이션을 아래 표에서 제시한다.

위 표에서 제시된 AI 애플리케이션은 효율적이고 접근성이 뛰어나며 개인의 필요에 맞게 최적화된 금융 서비스를 제공한다. 하지만, AI를 금융 서비스에 도입할 때는 윤리적 고려, 데이터 프라이버시 문제, 잠재적 편견 등에 대한 문제들을 예방하고 풀어나가는 것이 필수적인데 책임감 있는 AI 기술을 적용하면 이러한 문제들을 해결할 수 있다.

금융 서비스에서의 책임감 있는 AI 부상

AI는 금융 서비스 업계에서 주목 받아 왔고 운영·의사 결정·고객 경험 등 다양한 측면에서 혁신의 원동력이 되고 있다. 다음은 금융 서비스에서 책임감 있는 AI를 적용하기 위한 주요 고려 사항이다. 금융 기관은 AI 시스템을 투명하게 만들고, AI 알고리즘을 이해할 수 있도록 설명해야 한다. 이는 고객 및 규제기관과의 신뢰를 구축하는데 도움이 된다. AI 모델의 훈련 방법, 사용된 데이터, 결정에 영향을 미치는 요인을 명확하게 밝히는 것이 중요하다. AI 알고리즘의 편견은 불공정한 결과를 초래하여 사회적 불평등을 야기할 수 있다. 금융기관은 AI 시스템이 성별, 인종, 연령 등과 관련된 편견을 가지지 않도록 편견을 완화하고 의사결정 과정에서 공정성을 확보하기 위한 조치를 마련해야 한다.

금융 데이터는 매우 민감하여 보수적으로 다뤄져야 하며, 고객에 대한 개인정보 보호는 최우선 사항이다. 금융기관의 AI 시스템은 견고한 개인정보 보호 및 보안 기준을 준수해야 한다. 일반 개인정보 보호 규정 또는 기타 데이터 보호 관련 법률들을 AI 개발 주기 전체에 걸쳐 준수해야 한다. 금융기관은 AI 개발, 배포 및 유지 관리를 감독하기 위한 명확한 지배 구조를 수립해야 한다. 이 지배 구조에는 역할과 책임 정의, 윤리적 지침 준수, 정기적인 감사, 문제 발생 시 책임을 지정하는 규칙을 포함해야 한다.

AI는 의사 결정을 보조할 수 있지만, 인간의 판단을 완전히 대체해서는 안 된다. 사람이 금융기관의 AI 시스템을 모니터링하고 필요할 때 개입하며 잠재적인 위험이나 의도하지 않은 결과에 대처하도록 해야 한다. AI 모델 성능이 원하는 결과와 일치하고 예상치 못한 동작이나 편향을 나타내지 않도록 지속적으로 모니터링해야 한다. 모델의 정기적인 평가, 테스트 및 업데이트는 변화하는 금융 시장 조건과 진화하는 고객 요구에 부합하기 위해 필요하다.

금융 서비스에서 책임감 있는 AI를 촉진하기 위해서는 금융산업 이해관계자, 금융규제기관 및 금융 정책 결정자 간의 협력이 필요하다. 모범 사례 및 연구 결과를 공유함으로써 공통되는 기준과 지침을 만들 수 있다. 금융기관은 고객의 이익과 사회 전체의 복지를 최우선으로 고려하여 AI 기술을 개발 및 배포하는 책임이 있다. 책임감 있는 AI 실천 방법을 마련함으로써 금융 서비스는 잠재적인 위험을 완화하고 윤리적인 의사 결정 과정을 보장하는 AI 혁신을 이뤄낼 수 있다.

싱가포르통화청의 책임감 있는 AI 응용 사례

지난해 2월초 싱가포르통화청(MAS, Monetary Authority of Singapore)은 금융기관의 책임감 있는 AI 사용을 안내하고자 ‘공정성’ ‘윤리’ ‘책임성’ ‘투명성’(Fairness, Ethics, Accountability, Transparency) 원칙에 대한 평가 방법론을 자세히 설명하는 백서를 발표했다. 백서는 27개 기업으로 구성된 베리타스(Veritas) 컨소시엄에서 작성했고 주요 내용은 다음과 같다.

베리타스 컨소시엄은 금융기관이 FEAT 방법론과 원칙을 채택하는 속도를 높이기 위해 오픈소스 소프트웨어 툴킷을 개발했다. 이 툴킷은 공정성 지표 평가를 자동화하고 공정성 평가를 위한 인터페이스를 시각화하며 플러그인을 통해 금융회사의 IT 시스템과 통합할 수 있도록 지원한다.

베리타스 컨소시엄은 추가 개발을 진행하고 일부 금융기관 회원사와 함께 파일럿 시스템을 운영해서 개발된 방법론을 회원사의 기존 거버넌스 프레임워크와 통합할 예정이다. 또한 싱가포르통화청은 인포컴 미디어 개발청 및 개인정보 보호위원회와 협력하여 베리타스 툴킷을 개인정보 보호위원회의 AI 테스트 프레임워크에 포함시키기 위해 작업 중이다.

싱가포르통화청의 최고 핀테크 책임자는 새로운 오픈소스 소프트웨어, 평가 방법론, 강화된 지침을 통해 금융기관의 책임감 있는 AI 개발 기술 역량은 더욱 향상될 것이라고 말했다. 민관협력의 산물인 베리타스 컨소시엄은 책임감 있는 AI 기술 도입에 대한 신뢰를 높이고 싱가포르 핀테크 생태계의 혁신을 촉진하는 지속적인 성과를 보이고 있다.

북미 금융 서비스 산업의 책임감 있는 AI 도입 현황

AI 기반 기술은 북미 금융 서비스 기업의 비즈니스 방식을 변화시키고 있다. AI 전략이 성숙해짐에 따라 더 많은 기업이 AI 사용을 확대하고 있다. AI 솔루션업체와의 파트너십을 통해 크고 작은 규모의 금융 서비스 기업이 고급 AI 기능을 이용할 수 있게 되었다.

미국 FICO사에서 금융 서비스 분야의 최고위급 AI 및 데이터 임원 100명을 대상으로 책임감 있는 AI의 도입 현황을 인터뷰했다. 그 결과는 지난 1월 보고서 ‘금융 서비스의 책임 있는 인공 지능 성명서(State of Responsible AI in Financial Services)’에서 발췌했다.

인터뷰 응답자의 절반 이상이 1년 전보다 AI 제품 및 도구에 대한 수요가 더 많아졌다고 답했다. 응답자의 29%는 이미 AI 윤리와 책임감 있는 AI를 비즈니스 전략의 핵심 요소로 삼고 있다고 답했지만, 응답자의 71%는 여전히 책임감 있는 AI가 현재가 아닌 미래에 우선되어야 할 과제라고 생각하고 있었다.

금융회사의 리스크 및 규정 준수 담당자가 AI 윤리(77%)와 AI 거버넌스(68%)의 중요성을 가장 잘 이해하고 있는 것으로 평가되었으며, 경영진과 데이터 분석 담당자가 그 뒤를 이었고, 회사 이사회가 가장 이해도가 낮은 것으로 평가되었다. 또한, 응답자의 69%는 윤리적 AI에 대한 최고 경영진의 후원과 지원이 1년 전만 못하다고 답해, 고위 경영진의 윤리적 AI 이니셔티브에 대한 후원과 지원은 기대에 미치지 못하는 것으로 나타났다.

인터뷰 결과에 따르면 금융 서비스 회사의 29%는 보유하고 있는 책임감 있는 AI 역량을 '고급' 수준으로 평가하고 있다. 그러나 응답자의 8%만이 모델 개발 표준 측면에서 책임감 있는 AI 역량이 '성숙'하다고 평가했다. 또한 27%는 아직 책임감 있는 AI 역량 개발을 전혀 시작하지 않았다고 답했다. 금융 서비스 회사의 데이터 및 AI 리더들은 책임감 있는 AI가 고객에게 더 나은 경험을 제공하고(74%), 새로운 수익 기회를 창출(69%)할 것으로 기대한다. 책임감 있는 AI 구현을 통해 제공할 수 있는 고객 경험이 기업의 직접적인 수익 창출보다 더 중요시 되었는데, 금융 서비스 고객들이 책임감 있는 AI의 주요 수혜자임에도 불구하고 책임감 있는 AI에 대한 이해도가 가장 낮은 것으로 조사되었다는 점은 주목할만하다.

책임감 있는 AI를 구현하는 데 있어 '높음' 또는 '중간'으로 꼽힌 3대 장벽은 사용 중인 모델의 영향을 측정하기 위한 모니터링 방법의 부족(57%), 모델 편향성 측정 및 지표 설정 방법에 대한 합의 부족(50%), 모델 구축 방법에 대한 표준 부족(50%)이었다. 책임감 있는 AI를 구현하는 데 필요한 예산 확보의 어려움은 응답자의 41%가 '높음' 또는 '중간' 수준의 장벽으로 꼽았다. 또한 조사에 따르면 현재 AI 예산의 20% 미만이 책임감 있는 AI 도입에 사용되고 있는 것으로 나타났다.

실시간 스트리밍 데이터를 기반으로 하는 AI 기술은 사기 탐지, 위험 관리, 투자 의사 결정과 같은 애플리케이션을 통해 금융 서비스 업계에 상당한 영향을 미칠 수 있는 잠재력을 지니고 있다. 인터뷰 응답자의 34%는 스트리밍 또는 실시간 분석을 처음부터 구축하는 데 있어 회사 내 AI 역량이 부족하다는 점을 가장 큰 어려움으로 꼽았다.

업무 투명성 개선 필요성

이미 많은 정부와 규제당국이 AI 법안 마련을 위한 작업에 착수했다. 가령 유럽의회는 4월말까지 AI 법안의 초안에 대한 투표를 실시한 예정이며, 연말까지 법안을 채택할 방침이다. 또한 영국정부는 AI 사용 안내 백서를 발표했고, 여기에는 규제기관이 고객 경험을 가장 잘 지원하는 5가지 원칙을 담고 있다.

강력한 AI 시스템 개발의 최첨단은 아니지만, 은행은 이미 고객인증, 사기탐지, 리스크 모델링 등 다양한 프로세스에 이러한 기술을 이용하고 있다. 특히 신용평가 및 대출 분야에서 기술이 사람의 삶에 미칠 수 있는 중대한 영향을 인식하고 수년 동안 많은 금융회사가 책임감 있는 AI를 다루기 위한 윤리적 프레임워크와 내부 프로그램을 논의하고 개발해 왔다. 또한 고객 신뢰를 보호하고자 의사결정 과정에서 투명성과 설명 가능성의 중요성을 잘 알고 있다.

그러나 최근 영국의 핀테크 기업 에비던트(Evident)가 발표한 한 보고서에 따르면 북미와 유럽 전역의 은행들이 책임 있는 AI 개발에 대한 접근 방식을 공개적으로 보고하지 않고 있다고 한다. 이 보고서는 현재 미국, 캐나다, 유럽의 23개 대형 은행 중 8개 은행이 책임 있는 AI 원칙을 공개적으로 제시하지 않고 있다. 또한 보고서에 따르면 AI가 이미 어떻게 사용되고 있는지, 그리고 앞으로 어떻게 사용될 수 있는지에 대한 투명성이 부족해 이해 관계자의 신뢰를 손상시키고 발전을 저해할 수 있다는 점을 발견했다. 또한 책임 있는 AI 보고를 위한 표준이 부족하다는 점도 지적했다. JP모건체이스, 캐나다왕립은행(RBC), 토론토-도미니언은행의 3개 은행만이 책임 있는 AI에 대한 투명성에 ‘입증 가능한 전략적 초점’을 두고 있다고 분석했다. 각 은행은 책임 있는 AI 리더십 역할을 구체적으로 정하고, AI에 대한 윤리적 원칙과 보고서를 발표하고, 관련 대학 및 조직과 협력하고 있다는 증거를 보여주었다고 덧붙이기도 했다.

투명성 평가 외에도 에비던트는 은행을 인재, 혁신, 리더십이라는 세 가지 다른 AI 영역과 비교해 분석했다. JP모건체이스는 강력한 리더십과 반세기에 걸친 지속적인 투자를 바탕으로 네 가지 지수 요소에서 모두 1위에 올랐고, RBC는 혁신과 투명성 부문에서 특히 높은 성과를 거두며 2위를 차지했다. 3위는 시티그룹으로 역시 혁신 부문에서 우수한 성과를 거두었다.

북미 은행은 일반적으로 유럽 기관보다 앞서 있으며, 지수 상위 10위 중 7곳을 차지했다. 유럽의 확실한 승자는 4위를 차지한 UBS 그룹이며, ING와 BNP파리바도 상위 1위 안에 들었다.

보고서는 “모든 은행은 AI와 그 잠재적 사회적 영향에 대한 대중의 인식이 높아지는 추세에 발맞추기 위해 업무의 투명성을 개선해야 한다”고 강조했다. 덧붙여 “궁극적으로 투명성을 선도하는 은행은 사회에서 인식되는 방식을 재정의하고, 경쟁 우위를 창출하며, AI가 제공하는 기회를 더 잘 포착할 수 있을 것이다”고 분석했다.

책임감 있는 AI에 대한 국내 금융 서비스업계의 대응 방안

AI 알고리즘은 우리의 삶에 실질적인 영향을 미치는 다양한 응용 분야(얼굴 인식 기술·이력서 심사·범죄자 프로파일링·대출 자격 평가 등)에 사용되고 있다. 금융 서비스 분야에서도 AI 제품 및 도구에 대한 수요가 급증하고 있다. AI 알고리즘 의사 결정의 편향성은 금융 서비스 및 은행업에 종사하는 기업들에게 실질적인 경영위험을 초래할 수 있는데, 금융 서비스 회사가 이러한 위험에서 벗어나 안정적으로 AI 기술을 활용하기 위해서는 책임감 있는 AI 시스템을 구현해야 한다.

국내 금융사는 해외 글로벌 금융 서비스 회사에 비해 책임감 있는 AI 도입이 늦어지고 있다. 그렇지만, 미국을 비롯한 해외 유수의 금융 서비스 회사에서 책임감 있는 AI의 활용이 아직 미성숙 단계라는 사실을 감안할 때 우리나라의 금융 서비스 회사가 책임감 있는 AI를 포함한 첨단 AI 기술을 적극 도입해야 하는 적절한 시점에 이르렀다는 것은 분명해 보인다. 이런 까닭에 우리나라 금융 서비스 회사의 책임감 있는 AI에 대한 투자와 개발이 필요하며, 책임감 있는 AI를 통해 우리나라의 금융 서비스 회사들은 경영 위험을 감소시키고, 더 나은 고객 경험, 새로운 수익 창출 기회를 얻을 수 있을 것이다.

* 저작권법에 의하여 해당 콘텐츠는 코스콤에 저작권이 있습니다.
* 따라서, 해당 콘텐츠는 사전 동의없이 2차 가공 및 영리적인 이용을 금합니다.