[경제뭔데]내 보험금·대출 AI가 심사한다는데···어디까지 믿어도 될까 > 갤러리

[경제뭔데]내 보험금·대출 AI가 심사한다는데···어디까지 믿어도 될까

페이지 정보

작성자 가불이
댓글 댓글 0건 조회Hit 3회 작성일Date 26-06-23 05:50

본문

“초고성능 인공지능(AI)이 인간의 의도를 벗어나는 상황에 대비하기 위해….”, “고위험 AI 시스템이 최종적 의사결정을 수행하지 않도록….”
기계와 인간의 갈등을 다룬 공상과학(SF) 소설의 한 대목 같지만, 아닙니다. 정부가 이번 주에 발표한 ‘금융 분야 AI 가이드라인’의 한 구절입니다. 너무 ‘오버’ 하는 것 같다구요? 은행·보험 같은 일상적인 금융 업무에서 AI가 얼마나 많이 쓰이는지 알면 저런 걱정을 이해하실 겁니다.
간단한 보험금 청구만 해도 그렇습니다. 요즘은 핸드폰 카메라로 진료비 내역서를 촬영해 보험사 어플리케이션(앱)에 올리면 거의 곧바로 보험금이 나옵니다. 보험사들이 AI 자동심사 모델, 서류 광학문자인식(OCR) 기술, 즉시송금시스템 등을 앞다퉈 도입한 결과입니다.
최근 실손보험을 청구했던 40대 직장인 A씨는 “앱으로 신청하고 잠깐 자리를 비우고 돌아왔는데 8분만에 보험금이 나왔다”며 “작년만 해도 3~4일은 걸렸던 것 같은데 정말 깜짝 놀랐다”고 말했습니다.
이미 은행권은 AI 대출심사 시스템으로 인력·비용을 빠르게 줄여 나가고 있고요, AI가 투자 종목을 추천해주는 ‘로보어드바이저’도 널리 쓰입니다. 자동차보험에서는 ‘블랙박스 영상활용 AI 과실판정 시스템(DB손해보험)’이 지난 주 출시됐습니다.
그러나 이런 걱정도 듭니다. 만약 AI의 판단 착오로 받아 마땅한 보험금을 못 받거나, 대출 심사에서 억울하게 탈락한다면 그 책임은 누가 질까요? 금융사 AI가 악의적인 누군가의 ‘가스라이팅’에 넘어가 민감한 고객 정보를 줄줄이 털어놓는다면요?
이번주 [경제뭔데]에서는 내 재산을 지키고 불리는 과정에서 AI가 필수불가결한 요소로 떠오른 요즘, ‘양날의 검’ 같은 위험성에 대처하기 위한 정부·금융권의 가이드라인도 알아보겠습니다.
금융위원회는 지난 18일 ‘금융분야 AI 가이드라인’을 내놓았습니다. 오는 22일 은행·보험사·증권사 등 전 금융권에 배포됩니다. 이 가이드라인을 참고해서 각 회사들이 자율적인 규제방안을 마련하라는 거죠.
사실 정부가 금융업계를 위한 AI 가이드라인을 처음 만든 건 5년 전인 지난 2021년입니다. 그런데 이듬해 챗GPT 등장과 함께 생성형 AI 기술이 폭발적으로 발전하면서 가이드라인은 이후 몇 차례 업데이트됐고, 최근에는 압도적인 보안·해킹 능력을 가진 ‘클로드 미토스’ 이슈까지 반영해 2026년판 개정안이 새로 나왔습니다.
이번 가이드라인은 AI를 활용하는 모든 금융회사가 따라야 할 7대 원칙을 제시했습니다. 먼저 경영진이 AI 개발·활용에 대한 관심을 갖고 역할·책임을 분담해야 한다는 점(거버넌스 원칙), 금융·AI 법규를 지켜야 한다는 점(합법성 원칙)을 제시했습니다.
무엇보다도 의사결정에 따른 책임은 ‘인간 임직원’에게 있다는 점을 강조했습니다(보조수단성 원칙). 월등한 성능으로 금융소비자들에게 큰 영향을 끼칠 수 있는 ‘고영향·고위험 AI’가 의사결정을 최종적으로 내리지 않아야 한다는 겁니다.
예컨대 미국 앤트로픽의 미토스는 너무나도 성능이 뛰어난 탓에, 운영체제를 해킹해 소스코드 수정 권한을 얻어내려 하거나 임무에 실패해도 해당 파일을 삭제한 후 성공했다고 보고하는 등 인간의 의도에서 벗어나는 이상 행동이 다수 관찰된 바 있습니다.
막대한 돈이 오가는 금융 업무에서 ‘자의적으로 판단하는 AI’는 위험한 결과를 초래할 수 있습니다. 위험 임계치를 넘어선 투자 결정을 내리거나, 과도한 대응으로 고객 민원을 유발할 수 있죠. 가이드라인은 AI 시스템을 “임계치·경보·긴급정지 기능(킬 스위치·Kill switch) 등 수단을 조합해 상시 모니터링과 즉시 개입이 가능하도록 설계해야 한다”고 했습니다.
예컨대 모 금융사는 자체 개발한 개인사업자 대출심사 시스템에서 AI는 신용등급, 한도, 금리 권고 등을 담은 보고서 초안까지만 생성하도록 했습니다. 심사 담당자가 이 보고서를 검토한 뒤 최종 판단을 내리고 시스템에 입력해야 대출 절차가 완료됩니다. 사실 보험금 지급처럼 대출 또한 AI가 심사부터 지급까지 ‘원스톱’으로 할 수 있지만, 중간에 인간이 검토하는 과정을 끼워넣어 혹시라도 발생할 수 있는 알고리즘의 오류 가능성을 잡아내려 한 겁니다.
AI를 훈련시킬 때 정확하고 믿을만한 데이터를 사용해야 한다는 ‘신뢰성 원칙’도 있습니다. AI 학습에 쓰이는 데이터가 왜곡되면 모델 자체의 편향성을 증폭시킬 우려가 있죠.
아울러 신뢰성을 위해서는 AI가 내린 판단을 고객에게 설명할 수 있어야 합니다. 예컨대 AI 시스템이 고객의 기초 정보를 토대로 대출을 거절하더라도, “고객님은 제1금융권 대출 건수가 18건에 이르고 신용한도 대비 리볼빙 잔액 비율도 63%로 높아 거절됐다” 처럼 ‘사람의 말’로 풀어낼 수 있어야 하죠.
이외에도 AI 설계·학습 과정에서 금융시스템 위기를 촉발할 위험을 줄이는 ‘안정성 원칙’, AI 활용시 금융소비자 이익을 최우선으로 두는 ‘신의성실 원칙’도 제시됐습니다.
마지막은 ‘보안성 원칙’ 입니다. 악의적 사용자가 AI 시스템을 속이거나 잘못된 결과를 유도하기 위해 시도하는 다양한 공격에 대비해야 한다는 겁니다.
예컨대 A 금융사는 챗봇 입력의 길이를 2000자로 제한하고, 데이터 타입이 예상 범위를 벗어나면 요청을 자동 거부하도록 설정했습니다. AI 챗봇의 허점을 뚫기 위한 악의적인 질문 세례를 사전 차단하기 위해서죠. 대출심사 모델의 판단 기준을 역추적하려는 시도를 막기 위해 B 금융사는 6개월마다 공격 시뮬레이션을 시행하고, 내부 정보 유출 가능성을 점검하기도 합니다.
AI가 복잡한 금융 업무를 빠르고 간편하게 바꿔 주고 있지만, 그에 따라 업계가 대비해야 할 위험과 취약점도 갈수록 늘어나는 모습입니다.
권대영 금융위 부위원장은 “AI와 제도가 바뀔 때마다 가이드라인도 계속 보완할 것”이라며 “AI 에이전트가 상품 추천, 가입, 결제까지 맡게 되는 만큼 업종 분류부터 AI의 책임과 권한까지 필요한 규율체계를 검토하겠다”고 말했습니다.
바다거북을 지키기 위해 레바논에 터를 잡고 20년 넘게 활동해온 생태활동가 모나 칼릴이 전쟁에 휘말려 목숨을 잃었다. 향년 77세.
AP통신은 21일(현지시간) 레바논 수도 베이루트에 칼릴을 애도하는 시민들이 모여 추모의 뜻을 표했다고 보도했다. 칼릴은 이달 초 레바논 남부 티레의 해안 마을 자택에서 이스라엘군의 공습을 받고 중태에 빠졌고 지난 19일 숨졌다.
레바논 내전의 난민으로 고국을 떠나 네덜란드에서 살던 칼릴은 1999년 귀국했다가 우연히 만난 푸른바다거북 때문에 고향 땅에 터를 잡았다. 그는 해변이 내려다보이는 언덕에 바다거북 보호와 생태 관광의 거점인 ‘오렌지 하우스’를 만들어 운영했다. 네덜란드의 상징색에서 따온 이름이었다.
그는 거북이 산란철마다 자원봉사자들과 함께 해변을 순찰하며 거북이의 흔적을 찾고, 위험한 곳에 놓인 알을 안전한 곳으로 옮겼다. 여름 산란기에는 바다거북 부화 관찰 프로그램을 열어 알을 깨고 나온 새끼 거북들이 바다를 향해 기어가는 모습을 수많은 방문객에게 선사했다.
전쟁의 위기가 닥칠 때마다 칼릴은 고향 땅을 지키려 했다. 2024년 이스라엘과 친이란 무장정파 헤즈볼라의 전쟁이 벌어졌을 때도 칼릴은 오렌지 하우스를 떠나려 하지 않았다. 결국 레바논군이 그를 설득해 대피시켰다.
미·이란 전쟁 발발 이틀 뒤인 지난 3월2일 이스라엘이 레바논을 공습했다. 칼릴은 “나는 민간인이다. 무기도 없다. 그냥 문을 닫고 있을 뿐”이라며 오렌지 하우스를 지켰다.
레바논 남부를 강타해온 이스라엘군의 포격이 지난 4일 결국 오렌지 하우스에 있던 그의 침실을 덮쳤다. AP통신은 “당시 공격의 표적이 무엇이었는지는 분명하지 않았다”고 보도했다. 이스라엘군(IDF)은 성명에서 “칼릴은 군의 표적이 아니었다”며 “대피 경고 발령 후 해당 지역에 공습이 있었다. 민간인 피해에 대해 유감스럽게 생각하며 국제법에 따라 작전하고 있다”고 밝혔다고 AP통신은 전했다.
칼릴은 생전 오렌지 하우스 앞 해변이 내려다보이는 올리브나무와 언덕을 가리키며 “내 영혼은 여기 남을 것이다. 여기가 나를 묻을 곳”이라고 말했다고 한다.
HD현대사이트솔루션이 울산 산업 차량 공장의 선진화 프로젝트를 성공적으로 마무리하며 연간 2만4000대 규모의 산업 차량 생산 거점을 구축했다.
HD현대사이트솔루션은 전날 울산 동구에 있는 울산캠퍼스에서 산업 차량 통합 공장 완공식을 개최했다고 19일 밝혔다.
이번에 완공된 생산시설은 HD현대사이트솔루션이 2022년부터 기존 울산캠퍼스 산업 차량 공장에 약 930억원을 투자해 진행한 ‘울산캠퍼스 선진화 프로젝트’의 결과다.
이날 완공으로 산업차량 연간 생산 능력은 기존 2만대에서 2만4000대로 확대됐다. 산업 차량 및 건설기계 부품 생산 규모도 기존 17만개에서 22만개로 늘었다.
생산 능력 확대뿐 아니라 ‘무인 운반 차량’(AGV), 대형 타이어 조립 설비, 조립 공정 자동 컨베이어 등을 도입해 자동화율을 높이고 물류 최적화를 이뤄냈다. 이에 따라 제품 완성까지 걸리는 기간은 기존보다 9일(32%)가량 줄었고, 생산성은 약 20% 향상될 것으로 HD현대사이트솔루션 측은 기대했다.
HD현대사이트솔루션은 소형부터 대형에 이르는 제품 모든 제품군을 구축하고, 친환경 장비 수요가 확대되는 세계 시장 공략을 강화한다는 방침이다. 지난해 하반기 출시한 4~9t 중형 전동지게차에 이어 오는 7월부터 10~18t급 대형 전동지게차 제품군을 차례대로 출시할 계획이다.
송희준 HD현대사이트솔루션 대표는 “울산캠퍼스 선진화 프로젝트를 통해 품질과 생산 경쟁력을 한 단계 끌어올렸다”라며 “전동지게차 모든 제품군과 통합 생산 체계를 기반으로 2030년 산업 차량 부문 매출 1조6000억 원을 달성하겠다”고 밝혔다.

이전글서울탐정사무소 폰테크 26.06.23
다음글출장용접 이혼전문변호사 폰테크 26.06.23

댓글목록

등록된 댓글이 없습니다.