생성형 AI란 무엇인가?

생성형 AI: 주어진 데이터를 학습하여 새로운 콘텐츠를 생성하는 인공지능 기술

- 사용자의 특정 요구(request)에 따라 결과(reply)를 능동적으로 생성할 능력을 갖추고 있어, 텍스트 생성, 음성 생성, 음악 작곡, 코딩 등 다양한 창의적 작업에 활용됨

- ex. chat gpt, Dall-E, Vall-E

 

생성형 AI 작동 방식: 학습, 조정, 강화의 과정을 반복함

(1) 학습: 다양한 데이터를 학습해 기본 지능을 갖춘 모델을 만듦 = 기반 모델(뼈대)

 

(2) 조정: 기반 모델을 특정한 목적이나 상황에 맞게 맞춤화 시킴 = 세부적으로 튜닝하는 과정

 

(3) 강화: 조정을 거친 AI 모델은 결과물들을 생성함 -> 생성된 결과물은 평가 과정을 거쳐 품질과 정확성을 개선함

 

생성형 AI의 이점

(1) 효율성 향상

- 반복적이고 일상적인 일(요약, 분석, 코드 검수 등)을 자동화해 시간과 비용을 절감할 수 있음

- 이는 조직의 경쟁력을 강화하고 자원의 활용도를 극대화하는 데 기여함

(2) 창의력 향상

- 인간과 협력해 창작 과정을 보완하고 확장할 수 있음

- 창의적인 영감을 제공하는 역할을 하며, 효율적인 작업 흐름을 지원함

(3) 사용자 경험 개선

- 사용자에게 맞춤형 콘텐츠나 서비스를 제공할 수 있으며, 사용자와 자연스럽고 유연한 대화가 가능해 높은 수준의 고객 경험을 제공함

- 사용자와의 상호 작용을 강화하고 깊은 신뢰와 충성도를 얻을 수 있음

(4) R&D 가속화

- 연구과 개발 과정을 가속화함

- 신제품 테스트 과정에서 상세하고 현실적인 시뮬레이션을 제공하며, 연구나 개발에 소요되는 시간과 비용을 절감 가능

 

생성형 AI의 한계

(1) 학습 데이터의 편향

- 생성형 AI는 학습 데이터에 의존하기 때문에 특정 데이터의 편향성이 그대로 반영될 수 있음

- 이러한 편향적 데이터로 인해 생성형 AI는 공정성을 잃은 결과를 생성할 수 있음

- 사용자의 신뢰도를 하락시키거나 사회적 불평등을 심화할 수 있는 문제가 발생함

(2) 부정확한 정보 생성

- 생성형 AI는 때론 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 환각(Hallucination) 현상을 보일 수 있음

- 사용자에게 혼란을 초래하고 신뢰도를 하락시킴

(3) 일관성 없는 아웃풋

- 일관성이 부족하거나 맥락에 맞지 않는 내용을 생성하는 경우가 종종 있음

(4) 보안, 개인정보보호 및 지적 재산에 대한 위협

- 학습 데이터에 포함된 개인정보가 의도치 않게 결과물에 도출되거나 AI를 통해 가짜뉴스, 피싱 이메일 등이 생성될 가능성이 있음

- 이는 타인의 지적 재산권을 침해하거나, 민감한 개인정보들이 수집될 가능성도 있음

 

생성형 AI 성능 개선을 위한 방안

(1) 파인 튜닝(Fine-Tuning)

- 기본 모델을 특정 작업이나 도메인에 맞게 추가 학습시키는 방법

- ex. 대규모 의료 데이터를 학습한 모델은 더욱 정확한 의료 보고서를 작성할 수 있음/ 법률 문서에 최적화된 AI를 개발해 법률 관련 업무를 보조할 수 있음

 

(2) 검색 증강 생성(Retrieval-Augmented Generation, RAG)

- 데이터 소스를 참조하여 AI 답변의 정확도를 높이는 기술 = 오픈북 테스트를 하게끔하는 방식

- 외부 데이터베이스에서 필요한 정보를 실시간으로 검색하고 이를 바탕으로 결과물을 생성해서 오차를 줄이고 정확도를 높여 더욱 신뢰성있는 결과를 낼 수 있음

 

(3) 인간 피드백을 통한 강화 학습(Reinforcement Learninig with Human Feedback, RLHF)

- 인간의 피드백을 활용해 AI 모델의 성능을 개선하는 방식

- 인간 친화적이고 윤리적인 출력을 만들어내는 데 유용함

 

(4) 지속적 학습(Continual Learning)

- 지속적 학습을 통해 생성형 AI는 새로운 데이터와 상황을 학습해 최신 정보를 반영하고 성능 저하를 방지해 발전된 결과물을 생성함

 

생성형 AI에 대해서 다시 한 번 정리해보면서 우리 일상 속에서 생성형 AI가 얼마나 많이 활용되고 있는지 더욱 느끼게 됨

생성형 AI는 약이 될 수도, 독이 될 수도 있는 도구로써 양면성을 가지고 있음

보안의 경우, 우리가 보안을 대비하거나 악성 코드를 찾아내고 탐지하는 용도로 생성형 AI를 사용할 수 있지만 또 공격자의 입장에서는 가짜 뉴스, 피싱 이메일, 딥페이크 등 악의적인 콘텐츠를 생성해낼 수도 있음

생성형 AI를 더욱 잘 사용하기 위해 체계적인 관리와 모니터링이 필요함