티스토리 뷰

ⓒ픽사베이

 

인공지능. 많이 들어보셨죠? 인공지능 즉 AI 기술은 빅데이터 등을 기반으로 이용자에게 의사결정, 예측 등의 정보를 제공하는 편리한 기술입니다. 하지만 기존 인공지능은 알고리즘의 복잡성으로 인해 최종 결과에 대한 근거나 과정을 사람들이 명확히, 즉각적으로 이해할 수 없습니다. 이런 한계로 인해 인공지능은 ‘블랙박스’라 불리기도 합니다.

 

이처럼 직접 확인하고 검증할 수 없어 결과가 틀리면 곧바로 시스템에 대한 불신으로 이어질 수도 있습니다. 반면 블랙박스 내부가 공개되면 신뢰성 확보는 물론 문제 발생 시 원인 파악에도 유리하다는 장점이 있습니다. 이런 이점은 금융, 의료뿐만 아니라 전력 시스템과 같은 분야에서도 유용하게 쓰일 수 있습니다. 그렇다면 인공지능이 결론을 내리기까지의 과정을 알 방법이 있을까요?

 

기존 AI 와 XAI의 차이 ⓒ픽사베이/김수연 제작

 

XAI의 개념과 기술적 접근방식

블랙박스 내부를 들여다보는 방안으로 설명 가능한 인공지능 (eXplainable AI, XAI)가 있습니다. XAI라는 개념은 70년대부터 소개됐는데요. 최근 딥러닝이 전 세계적으로 확산하고 다양한 분야에 도입되면서 설명 가능한 인공지능 ‘XAI’는 다시 주목받게 됐습니다.

 

XAI는 확장된 개념의 인공지능 기술입니다. 단순히 최종 결과를 도출하는 기존 인공지능 시스템과는 달리 사용자가 최종 결과와 그 과정을 이해하고 올바르게 해석할 수 있게 해줍니다. 즉, XAI를 활용하면 블랙박스로 인식되던 인공지능과 머신러닝을 사람이 이해할 수 있는 투명한 ‘유리상자’로 바꿔줄 수 있는 것입니다. 그렇다면 XAI는 어떤 식으로 개발될까요? XAI의 기술적 접근방식에는 기존 학습 모델 변형’, ‘새로운 학습 모델 개발’, ‘학습 모델 간 비교가 있습니다.

 

XAI의 기술적 접근(표) ⓒ김수연 제작

 

①기존 학습 모델 변형

기존 학습의 모델 변형으로는 기존 학습 모델을수정하거나 역산 과정을 추가하는 방식이 있습니다. AI는 결론을 내리기까지의 연산 과정이 존재합니다. 따라서 결론에 대한 역산 과정을 추가하는 경우 최종 결과에 영향을 미치는 요소들을 추론할 수 있습니다. 역산 과정은 학습 과정을 역으로 계산해 각 단계에서 결과를 내는 요소를 추론하고 이를 시각화해 판단에 대한 근거를 제공합니다.

 

②새로운 학습 모델 개발

새로운 학습 모델의 개발이란, 말 그대로 학습 모델을 새로 만든다는 것을 의미합니다. 예컨대, 기존과 달리 인과관계 같은 도출과정을 표현할 수 있는 모델을 도입하는 것과 같습니다. ‘기존 학습 모델을 변형’이 기존 연산의 역연산을 진행했다면, 이 경우 설명 가능한 새로운 모델을 개발해 근거를 파악하는 것입니다.

 

③학습 모델 간 비교

학습 모델에 대한 변형, 새로운 모델의 개발을 하지 않는 방법도 있습니다. 이는 기존에 있는 설명 가능한 타 모델과의 비교를 통해 최종 결과를 설명하는 방식입니다. 예컨대 설명 가능한 분류모델 ‘A’와 설명하고자 하는 분류모델 ‘B’가 있다고 가정합시다. A의 근거 요소를 B에 적용하여 유사한 결과가 도출되면 A의 근거를 B의 근거로 활용하는 식입니다.

 

이미 XAI는 그 중요성을 인정받아 이를 활용한 다양한 사례를 찾을 수 있습니다. 두 집단을 시간에 따라 분석하거나 기업의 패턴으로 미래의 수요를 예측할 수 있는 AI심머신이나 오픈스케일 등과 같은 사례가 있죠. 그렇다면 XAI는 전력계통에서 어떻게 쓰일 수 있을까요?

 

2018 에너지 거점대학 클러스터 협약식 ⓒ한국전력 제공

 

AI 클러스터의 결성

2018년 한국전력공사는 국내 24개 대학의 에너지 신기술, 차세대전력계통, 인공지능, ICT 융복합, IoT&센서 5개 분야 연구개발을 지원했습니다. 이 중 인공지능 기술은 한국과학기술원을 거점대학으로 충남대, 강원대, 고려대, 연세대가 참여해 AI 클러스터*를 결성했습니다. 한전은 2018년부터 해당 집단에 3년간 약 70억 원을 지원했습니다.

 

*클러스터 : 연관이 있는 산업의 기업과 기관들이 한 곳에 모인 산업집적단지

 

XAI를 활용한 스마트에너지 플랫폼의 개발

AI 클러스터 연구 기간은 2018년 3월부터 2021년 2월 말까지 3년이었습니다. 짧은 기간이었지만 전력망 생태계 운용과 이용효율을 획기적으로 높이는 ‘XAI 기반 스마트에너지 플랫폼개발을 완료할 수 있었습니다. 또한, 클러스터 참여대학 교수진 21명 연구진 140명은 국제특허 출원 10건, 국내 특허 출원 65건, 국제표준 채택 기고 13건 등 아래 표와 같은 성과를 거두었습니다.

 

AI 클러스터의 성과(표) ⓒ김수연

 

가장 주목할 만한 연구 성과는 AI 사진 판독에 관한 기술입니다. 기존 AI 사진 판독은 전력망 신규 또는 보강 구축 현장에 대해 합격, 불합격 등 단순판정에 그쳤습니다. XAI 원천기술을 도입한 결과 단순판정에서 더 나아가 판정에 대한 설명을 시각적 또는 자연어 문장으로 설명할 수 있었습니다. 이 기술을 점검용 드론에 도입해 상용화하면 전력계통의 단계별 고장진단은 물론 원인을 파악해 사후 대응까지 가능해집니다. 이를 통해 접근이 어려운 부문의 문제나 시설 개선에서 사람과 AI가 공동 작업할 수 있는 길이 열리게 됐습니다.

 

그 밖에도 AI 클러스터는 효율적인 전력 수급과 전력 품질·신뢰성 강화를 위해 노력했습니다. 그 결과 XAI를 활용한 미래형 에너지관리시스템 구축 기반을 다지는 등 다양한 연구 성과를 거둘 수 있었습니다.

 

발전하는 인공지능과 발전하는 전력계통

지금까지 XAI란 무엇이고 XAI의 중요성과 활용사례에 대해 알아봤습니다. XAI는 기존 AI의 블랙박스 내부를 들여다볼 수 있도록 해줍니다. 그 때문에 이용자는 인공지능의 판단에 대해 이해할 수 있습니다. XAI를 활용하면 문제 해결에 대한 실마리를 얻는 등 유용한 측면이 많은 것이지요. 이후 XAI 원천기술이 상용화되어 인간과 AI의 상호작용으로 더욱더 효율적이고 발전하는 전력 수급 체계가 구축되길 기대합니다!

 

 

 


댓글쓰기 폼

한국전력 블로그 굿모닝 KEPCO!

관리자
글 보관함