[ AI 도입 목적 ] AI 담당자는 어떤 준비를 해야 하는가?

AI 는 무엇을 할 수 있을까?

□ 기업이 AI를 도입하고자 하는 이유

기업이 AI를 도입하고자 하는 이유는 분명하다. 바로 AI가 돈을 벌어 줄 것이라고 확신하기 때문이다. TV광고를 봐도, 세미나를 가보더라도 이제 AI 붙지 않으면 사람들의 관심을 끌기 어렵다. 빵 하나, 껌 하나를 팔더라도 이제는 AI를 붙여야 할 시대가 되어가고 있는 것이다. 이와 같은 상황 속에서 당연히 기업은 AI라는 기술에 관심이 갈 수밖에 없다. 그리고 CHATGPT가 발표된 이후 아직 1년 정도밖에 지나지 않았지만, 처음에는 그저 똑똑한 말동무 정도의 AI였다면 지금은 그 적용 방식이 고도화되고 정교화되고 있다. 기업의 입장에서는 이와 같이 정교화되고 고도화되는 것은 매우 중요하다. 왜냐하면 자본을 투입해서 상업적인 서비스를 제공해야 하는 기업 입장에서 응답의 품질이 널을 뛰거나, 잘못된 데이터를 제공하는 등의 오류가 있을 경우 도입하는 것 자체가 불가능하기 때문이다. 이는 B2C 뿐만 아니라 내부 사용자도 마찬가지이다. 그렇기 때문에 이와 같이 품질을 보장하고, 답변에 대한 재평가 및 검수가 이루어지는 체계가 어느 정도 갖춰진 지금에야 기업 환경에서는 본격적으로 도입을 할 수 있는 환경이 만들어지고 있는 것이다. 이와 같이 AI 기술에 대한 환경이 무르익어 가는 현재 기업들은 어떤 업무에 AI를 활용하고 있을까?

□ AI 도입의 대표적인 방식 2가지

기업의 업무는 매우 다양하고 AI를 적용할 수 있는 분야는 더욱 광범위하겠지만, 가장 대표적인 분야는 아래의 두 가지이다. 

1. operation  efficiency

최근 삼성SDS에서 발표한 자료를 보더라도 아직까지 기업은 전략적인 필요 혹은 기획등은 업무보다 AI를 활용하여 업무 효율성을 제고하는데 더 관심이 있고, 실제로 효과를 보고 있는 분야도 해당 분야에 압도적으로 몰려 있다. 이는 반복적이거나, 절차가 고정되어 있는 작업에 대해 기술을 적용하여 자동화하여 효율을 높이는 방식이다. 이와 같은 방식은 아직 불확실할 수 있는 AI의 영향에 대해 비교적 측정이 가능한 ROI를 제공해 줌으로써 기업입장에서는 도입에 대한 장벽을 많이 낮출 수 있다. 그리고 이와 같은 작업을 처리하는 데 대표적인 RPA 같은 기술들이 있지만, 해당 기술 역시 아무리 쉽더라도 일반인이 접근하기 쉬운 부분은 아니기 때문에 이런 부분의 장벽을 AI를 통해 낮춤으로써 더 많은 비 IT인들의 니즈가 시스템으로 바로 연결되도록 하는 것이다. 이는 LLM이 뜻하는 Large launage model의 의미와도 잘 맞는다. 엄청나가 큰 언어 모델을 기초로 하여 인간의 언어를 시스템의 언어로 번역하는 과정이 바로 위와 같은 과정이기 때문이다.  

2. Business transformation

운영 효율에 초점을 맞춘 AI 이후는 비즈니스 자체를 혁신하는 방향이 될 것임은 분명하다. 그렇기 때문에, 단순히 AI를 도입하여 프로세스를 빠르고 효율적으로 적용하는 것을 넘어서서, 전략을 수립하는 방식 일하는 방식 그리고 제품을 생산하는 방식까지 AI를 통해 변화를 만들어 내는 것을 기업들은 고민하게 될 것이다. 하지만, 이 단계는 아직 광범위하게 확산되기는 어렵다고 본다. 왜냐하면 성과의 측정, 그리고 투입 비용 대비 효과성을 증명하기 매우 어려운 과정이기 때문이다. 이 같은 모멘텀은 담당자 레벨이 아닌 C레벨의 혁신적인 의사결정이 필요하다. 지금 몇 년 동안의 적자와 비용 투입을 감안하더라도 AI를 통해 어떤 식으로든 변화를 이끌어 보겠다는 강력한 의지 말이다. 이와 같은 의지가 뒷받침되지 않고는 수행하기 어렵기 때문에 현재 AI를 활용한 기업 시장은 대부분 1번의 운영 효율화에 초점이 맞춰져 있는 것이다. 

물론 다른 형식의 그리고 다른 방향의 적용 분야가 많을 테지만 작년의 다양한 설문등의 자료를 보면 위와 같이 운영 효율화나 전략적인 접근이 큰 방향을 이루고 있는 것을 볼 수 있다. 

□ AI를 준비하는 담당자가 알아야 할 것

지금부터가 하고 싶은 말이다. 위의 현황과 트렌드는 AI에 관심이 있는 사람이라면 어느 정도 다 알고 있는 내용일 것이기 때문이다. 담당자는 아래의 5가지 내용을 숙지하고 준비해야 한다. 단, 언급하는 주요 요소는 AI를 통한 지식시스템과 같이 사내 데이터를 기반으로 서비스하는 시스템에 대한 것이다. 

가. Data Quality

  AI를 활용한 서비스를 구축하거나 도입하고자 할 때 가장 중요한 것은 데이터의 품질이다. AI가 응답하는 데이터의 품질뿐만 아니라 인덱싱을 하는 데이터까지 모두 일정 수준의 품질을 유지해야 하기 때문이다. 입력하는 데이터의 경우 그림, 그래프, 다중 표 등의 데이터가 가득 들어 있다면 AI는 이 데이터에 적당한 인덱싱을 하는 게 불가능하다. 그리고 출력되는 내용의 경우도 정확한 사실 혹은 제공한 자료에서 합리적으로 혹은 해당 기업이 원하는 방식으로 추론해야 하는 방식으로 추론하여 제공해야지, 없는 데이터르 추측해서 제공하거나, 다른 방식으로 추론하여 제공하는 등의 답변은 위험할 수 있다. 그렇기 때문에 담당자는 AI에 제공하는 데이터의 전처리와, 답변을 검증할 수 있는 장치를 마련해야 한다.  

나. Security

AI가 나오고 보안은 더더욱 중요한 요소로 고려되고 있다. 기존의 폴더구조 그리고 권한 구조는 접근하는 사용자의 권한을 체크하여 해당 권한에 맞는 수준의 데이터를 제공하는 형태로 구성되어 있다. 하지만, AI를 통한 지식시스템의 경우 AI와 검색엔진이 인덱싱 및 서칭을 하여 결과를 리턴하되, 이를 가공하여 제공하는 방식이다 보니, Searching 하는 부분에서의 명확한 제한이 필요하다. 기술로 가능한 문제이기는 하지만, M365의 예에서 볼 수 있듯이, M365의 인덱싱 모듈이 해당 테넌트의 일반 라벨의 문서를 모두 인덱싱 하는 형식으로 동작한다면, 사용자가 실수로 문서의 등급을 잘못 지정할 경우 모든 이들에게 해당 문서가 공개될 수 있는 위험성도 가지고 있는 것이다.

다. Policy

정책이다. 당연하겠지만, 기술은 눈이 없다. 누구를 향해가고 있는지 그리고 그 방향이 맞는 것인지에 대한 판단을 할 수 없다. 그 부분은 AI가 아마 한동안 따라올 수 없는 인간의 공유한 부분일 것이다. 이전의 포스팅에서도 있었지만, AI의 도입을 통해 기업의 효율성을 증대하고, 나아가 혁신적인 변화를 이끌기 위해서는 이 기술을 어느 분야에 어떻게 한정하여 사용할 것인지 그리고 그 목적은 무엇인지 명확하게 정의해야 한다. 그리고 그 정의에 맞도록 튜닝하고 테스트하는 과정을 끊임없이 반복해야 한다. 이유는, AI의 연산의 과정이 블랙박스이기 때문이다. 다른 기술은 아무리 어려운 기술이라도 처리 과정을 확인할 수 있고 이를 통해 답변의 유도 과정을 조절하거나, 원하지 않는 데이터를 걸러낼 수 있다. 하지만, AI의 답변 과정은 답변을 하는 AI 빼고는 누구도 왜 그렇게 답변했는지 확인할 수가 없다. 그렇기 때문에 결과를 제한하고 필터링하여, 원하는 결과만 사용하는 방식으로 후 필터링 과정이 필수적인데 이 필터링을 하기 위한 근본 Rule이 바로 정책이기 때문이다. 

이 포스팅을 시작하게 된 이유는 Digital Reality에서 보내준 뉴스레터에 있던 "AI for IT Leader:Deploying a future-proof IT infrastructure"를 보고 AI를 담당하는 기업의 담당자가 인사이트를 얻을 것이 없을까 해서 쓰기 시작했다. 워낙 널리 알려져 있고, 당연한 이야기 일 수 있지만, 내 생각을 정리하고 혹시나 아직 이 길의 초입에 있는 사람들에게 도움이 될까 싶어 끄적여 봤다. 

모두들 성공하시기를~~!