인공지능 - 2023 인공지능

최근 기술･산업을 주도하는 생성형 인공지능은

▲대형언어모델을 중심으로 사용자의

▲입력(프롬프트)에 따라 다양한 미디어 형태의 결과물을 산출

 

(생성형 인공지능) 사용자의 입력수단(프롬프트)를 바탕으로 텍스트, 이미지 등 다양한 미디어를 결과물로 산출하는 인공지능 시스템

- 생성형 인공지능은 데이터 자체만으로 학습하는 비지도학습*을 기반으로 하고 있으며,이 방식은 기반 모델(Foundation model)의 기본적인 접근으로 채택

 

＊(비지도학습)
데이터에 별도의 라벨이 없는 상황에서 데이터 자체만으로 학습하는 방식으로,
데이터 자체를압축하고 복원하는 오토인코더(Auto
Encoder)나 유사한 데이터의 묶음으로 구분하는 군집이 대표적

 

- 생성형 인공지능의 비지도 학습 중 ▲비전･이미지 분야는 이미지 자체를 압축 후 다시복원, ▲자연어 처리에서는 텍스트 데이터에서 빈 단어(토큰*)를 예측하는 방식으로 구현

 

＊텍스트 데이터를 단어 단위가 아닌 접두어나 접미사,
혹은 문자 단위로 세분화하여 예측하고자하는 텍스트의 단위를 의미

 

(대형언어모델) 대형언어모델은 텍스트를 생성하는 과업에 특화된 초거대 인공지능 모델로수천억 개(최소 수백억) 수준의 학습 가능한 모수를 학습･활용

 

- 대형언어모델은 특정 과업을 수행하기 위한 재학습 데이터의 수가 수십 개 수준으로 낮아지고,학습하지 않은 내용도 추론하여 해결할 수 있는 창발(Emergent)* 현상이 관측

 

＊대용량 데이터의 사용,
여러 계층 구조를 통한 추상적 개념의 학습,
비선형적 결정 기제 등에 따라발현하는 것으로 추정 중이며,
명확한 원리와 발현 기제는 아직 밝혀지지 않음

 

※ 대형언어모델의 대표적인 기준점은 OpenAI社
GPT-3(’20.)이며,
학습가능 한 모수의 수가1,750억개로 알려진 700기가바이트의 크기를 가짐

 

- 대형언어모델을 구현하기 위해서는 막대한 학습량과 연산량에 따른 초고성능 컴퓨팅파워를 요구하는 등 기술･산업적 진입장벽은 다소 높은 편

※ GPT-3는 MS에서 지원한 AI
슈퍼컴퓨터(GPU
10,000장 규모)*를 활용한 결과물로 학습 비용은 약 400만 달러(48억원)
수준의 클라우드 컴퓨팅 비용을 요구하는 것으로 알려짐

 

(프롬프트) 사용자가 생성형 인공지능을 통해 출력물을 얻고자 입력하는 수단을 의미하며,현재 생성형 인공지능 서비스는 대부분 대화형 프롬프트 인터페이스를 제공

 

※ 프롬프트는 컴퓨터에 명령을 내리는 단말(Terminal)에 입력하는 것을 의미하며,
이것이 생성형인공지능 서비스의 인터페이스와 유사하다는 의미에서 용어가 사용됨

 

- 생성형 인공지능에서 언급되는 ‘프롬프트 학습(Prompt Learning)’은 특정 과업에 대한 적절한 수의 예시를 프롬프트를 통해 입력하면 단기간 내 이를 학습하여 수행 능력을 확보

 

- 프롬프트 학습은 프롬프트 엔지니어링(Prompt Engineering)으로 일반화되어가고 있으며,사용자가 생성형 인공지능에 양질의 질의문을 작성하는 경험적 방법론 역시 부상 중

 

 

https://kistep.re.kr/board.es?mid=a10306010000&bid=0031&act=view&list_no=43723

2023 인공지능 | 전체브리프 | KISTEP 브리프 | 주요 사업 : KISTEP 한국과학기술기획평가원