[디지털경제뉴스 박시현 기자] HPE가 기업의 AI 준비 현황 등을 조사한 보고서를 발표했다.
‘AI 이점 설계(Architect an AI Advantage)’라는 제목의 이 보고서는 HPE가 2024년 1월, 전문 조사기업 사피오 리서치에 의뢰해 한국을 포함한 14개국, 2,400명 이상의 IT 의사 결정권자를 대상으로 실시한 설문조사 결과이다.
HPE는 “이제는 비즈니스에 AI가 도입됐는지 여부가 아니라 얼마나 성공적으로 도입하는지가 중요한 시기이다. 이러한 내용을 파악하기 위해 조사를 진행했다”고 밝혔다.
◆IT 리더의 44%만이 AI의 이점 실현할 준비 갖춰 = 보고서에 따르면, 전 세계적으로 기업들은 AI에 투자하고 있지만 낮은 데이터 성숙도, 네트워킹 및 컴퓨팅 프로비저닝의 결함 가능성, 주요 윤리 원칙 및 컴플라이언스 고려 사항 등 성공적인 AI 도입 결과에 영향을 미치는 핵심 영역을 간과하고 있는 것으로 나타났다.
실제로 이번 조사에서 IT 리더의 44%만이 ‘자신의 기업이 AI의 이점을 실현할 준비가 됐다’고 응답했다.
HPE는 “이번 조사 결과 거의 모든 IT 리더들이 향후 12개월 동안 AI에 대한 투자를 늘릴 계획인 것으로 나타났다. 하지만 포괄적인 접근 방식을 따르지 않으면 발전이 정체될 수 있다. 예를 들어, 사내 전략과 부서의 참여 방식이 일치하지 않는 경우, 기업은 중요한 전문 지식을 활용하고 효과적이고 효율적인 결정을 내리며 AI 로드맵이 비즈니스 전반에 일관되게 유익한 결과를 도출하는 데 어려움을 겪을 수 있다”고 말했다.
비즈니스 성과에 영향을 미치는 AI 성능은 양질의 데이터에 달려 있다. 이번 조사에 따르면 기업이 데이터 관리를 성공적인 AI 활용을 위한 가장 중요한 요소 중 하나로 인식하고 있음에도 불구하고, 데이터 성숙도는 여전히 낮은 수준에 머물러 있는 것으로 나타났다. 단 7%의 조직만이 실시간 데이터 푸시·풀을 실행해 데이터를 수익화할 수 있으며, 26%만이 데이터 거버넌스 모델을 수립해 고급 분석을 실행할 수 있는 것으로 나타났다.
더욱 우려되는 점은 응답자 10명 중 6명 미만이 ‘자신의 기업이 AI 모델을 위한 데이터 준비의 주요 단계인 액세스(59%), 저장(57%), 처리(55%), 복구(51%)를 모두 완벽하게 처리할 수 있다’고 답했다는 점이다. 이러한 결과는 AI 모델 생성 프로세스를 지연시킬 위험이 있을 뿐만 아니라, 모델이 부정확한 인사이트를 제공하고 부정적인 ROI를 초래할 가능성도 높다.
응답자들에게 AI 생애주기 전반에 필요한 컴퓨팅 및 네트워킹 수준에 대해 질문했을 때도 비슷한 격차가 나타났다.
IT 리더의 93%는 사내 네트워크 인프라가 AI 트래픽을 지원하도록 설정돼 있다고 답했으며, 84%는 사내 시스템이 AI 생애주기 전반에서 필요한 특수 사항들을 지원할 수 있는 충분히 유연한 컴퓨팅 용량을 갖추고 있다고 답했다. 이러한 결과는 표면적으로 기업 시스템에 대한 신뢰도가 높은 것을 보여준다.
그러나 IT 리더 중 절반 미만만이 학습, 튜닝, 추론을 포함한 다양한 AI 워크로드 요구사항을 완전히 이해하고 있다고 응답해, AI 관련 요구사항을 얼마나 정확하게 프로비저닝할 수 있는지에 대한 의문이 제기됐다.
◆IT 리더의 28%, 전반적인 AI 접근 방식 ‘파편화돼 있어’ = IT 리더의 28%는 전반적인 AI 접근 방식이 ‘파편화돼 있다’고 답하는 등 주요 비즈니스 영역을 유기적으로 연결하는 데 어려움을 겪고 있는 것으로 나타났다. 이를 증명하듯, 1/3 이상(35%)의 기업이 각 기능에 대해 별도의 AI 전략을 수립하고 있으며, 32%는 아예 서로 다른 목표를 세우고 있는 것으로 조사됐다.
더욱 위험한 것은 소비자와 규제 기관 모두가 윤리 원칙 및 컴플라이언스 준수에 대한 관심이 높아지고 있음에도 해당 요소들을 완전히 간과하고 있다는 점이다. IT 리더들은 법률 및 컴플라이언스(13%)와 윤리(11%)가 AI 성공에 가장 중요하지 않다고 생각하는 것으로 나타났다. 또한 기업 4곳 중 1곳(22%)은 비즈니스를 위한 AI 전략 논의에 법률팀을 전혀 참여시키지 않는 것으로 나타났다.
기업이 AI에 빠르게 대응하면서 적절한 AI 윤리 및 컴플라이언스 규정이 지켜지지 않는다면 시장에서 경쟁 우위를 선점하고 브랜드 평판을 유지하기 위한 기업만의 데이터가 노출될 위험이 있다. 윤리 정책이 없는 기업은 적절한 컴플라이언스와 다양성 기준이 부족한 모델을 개발하게 되어 브랜드에 부정적인 영향을 미치고 매출 손실 또는 높은 벌금과 법적 분쟁을 초래할 위험이 있다.
AI 모델의 결과물은 데이터의 품질에 따라 제한되기 때문에 추가적인 리스크도 존재한다. 이는 데이터 성숙도 수준이 여전히 낮은 것으로 나타난 이번 설문조사 결과에서도 확인할 수 있다. 이러한 결과를 IT 리더의 절반이 AI 생애주기 전반에서 필요한 IT 인프라 조건에 대해 완전하게 이해하지 못했다고 인정한 지표와 결합하면, AI 환각 현상 등 비효율적인 모델을 개발할 위험이 전반적으로 증가한다. 또한, AI 모델을 실행하는 데 필요한 전력 수요가 매우 높기 때문에 데이터센터의 탄소 배출량이 불필요하게 증가할 수 있다. 이러한 문제는 기업의 AI 자본 투자에 대한 ROI를 떨어뜨리고 전반적인 기업 브랜드에 부정적인 영향을 미칠 수 있다.
◆“AI가 유행이라는 이유만으로 도입 서두르면 안돼” = HPE는 “AI 접근 방식과 관련해 잘못된 확신을 지닌 기업이 너무 많다. 단기적으로는 이러한 결정으로 효과를 볼 수 있다. 하지만 연관성, 혁신, 지속적인 성공을 위해서는 특히 AI 기술 자체가 끊임없이 진화하기 때문에 AI 라이프 사이클 전체를 훨씬 깊이 있게 파악해야 한다. 조직은 엔드 투 엔드 방식의 AI 전략을 수립하고, 위험과 기회를 식별하는 역량을 갖춘 상태에서 눈을 크게 뜨고 AI 기술에 접근해야 한다”고 강조했다.
또 “AI가 유행이라는 이유만으로 도입을 서두르면 안된다. AI 여정은 원하는 비즈니스 성과 목록을 작성하고, 조직 전체의 리더가 참여해 AI가 목표 달성에 가장 큰 도움이 되는 영역을 함께 논의하는 것으로 시작해야 한다. 윤리 문제부터 지속 가능성 목표에 이르기까지 모든 고려 사항에 주의해 모두가 동일한 목표를 향해 나아가도록 비즈니스 전체를 포괄하는 AI 전략을 수립해야 한다. 그리고 데이터, 컴퓨팅, 소프트웨어, 네트워킹 등의 지원 요소를 포함하는 AI 라이프 사이클에 대한 깊이 있는 이해를 바탕으로 세심하게 접근해야 한다”고 권고했다.
