회사

검색
  • IMGURU

XAI (설명 가능한 인공지능)

1. XAI의 등장 배경

인공지능(Artificial Intelligence)은 이미 거의 모든 분야에서 다양한 용도로 사용되고 있지만 항상 우리가 기대한 만큼의 성능과 정확도를 제공하지는 않는다.

뿐만 아니라 간혹 어처구니없는 실수나 오류를 범하곤 한다. 그런데, 이런 오류 원인을 즉각적으로 알지 못하고 인공지능이 어떻게 이런 결정을 했는지

개발자조차 파악하지 못한다. 이것이 인공지능 기술의 현재 수준이며, 이를 AI의 블랙박스라 한다.

이를 해결하고자 등장한 것이 “설명가능한 AI(eXplainable AI, XAI)”다.

AI가 스스로 결정한 사항의 근거를 사용자에게 설명해주는 “설명가능한 AI”.



2. XAI 란?

‘설명가능한 AI(eXplainable AI, XAI)’란 의사 결정과 결론, 예측을 하는 AI가 제대로 판단하고 있는지 증빙할 수 있는 데이터를 차트와 분석을 통해 사용자에게 광범위하면서도 자세한 설명을 제공하는 것이다.

한 마디로, XAI는 인공지능의 행위와 판단을 사람이 이해하는 형태로 설명할 수 있는 인공지능을 의미한다.





3. XAI를 통한 기술적인 효과

신경망의 내부를 들여다보고 그 행동을 이해할 수 있는 설명 가능한 AI는 기술적인 관점에서 설계자와 개발자에게 크게 세 가지 효과를 제공한다.

  1. 경계 사례와 데이터 편향성을 탐지하고 제거

  2. 모델 정확성 및 성능 개선

  3. 효과적인 신경망 학습에 필요한 라벨링된 데이터 줄이기


4. XAI를 통한 비즈니스 효과

여기서 중요한 것은 설명가능성이라는 의미가 엔지니어와 비즈니스 사용자에게 매우 다를수 있다는 점이다.

그래서 엔지니어에게는 세부적인 데이터 포인트를 전달하고, 비즈니스 사용자에게는 이해하기 쉬운 수준의 표현으로 해석해 제공해야 한다.

이렇게 블랙박스 문제를 고려할 때는 기술 영역 이외의 사용자, 즉 이런 시스템을 궁극적으로 사용하는 비즈니스 담당자의 관점도 반영하는 것이 중요하다.

  1. 딥러닝의 데이터 편향과 잘못된 상관관계 찾기

  2. 딥러닝 모델에 위험 관리 적용

  3. 비즈니스 통찰력 확보와 프로세스 개선


5. Review

딥 러닝에 설명가능성을 부여하면 더 안전하고 견고한 신경망이 가능해지고 이는 정부 규정 준수와 책임, 기술적 맥락에서 모두 기업에 중요한 이점이 된다.

AI 설명가능성을 활용하는 기업은 신경망이 밝혀낸 상관관계에 대한 통찰력을 통해 딥러닝 모델을 개선하고 내부 프로세스를 강화할 수 있다.

또한 엔지니어는 데이터 기반이라는 AI의 접근 방식으로 인해 발생하는 모델의 기능적인 문제를 파악하고 제거할 수 있다.

장기적으로 인공지능의 잠재력과 광범위한 도입을 위해서는 반드시 AI의 블랙박스를 열어야 한다.

조회 75회

최근 게시물

전체 보기

기술적 특이점

특이점이란 개념은 수학, 물리학에서 존재하는 개념이다. 1. 특이점(singularity) - 수학: 분수의 분모가 제로에 근접함에 따라 무한대로 발산되는 지점 - 물리학: 광속도로 이동하는 빛조차도 탈출할 수 없는 블랙홀의 경계에 존재하는 사건의 지평선(event horizon) 2. 기술적 특이점 - 영국 옥스포드 사전에 정의된 특이점이란 “인공지능을

© 2020 by IMGURU, Inc. All rights reserved.