(개념) 메타 AI에서 LLM(Large Language Model)이 생성한 텍스트를 평가하고 개선점을 제안하는 모델 (2023년 8월 16일 출시)
(역할) LLM이 생성한 답변의 오류와 논리, 일관성 문제 등을 인지하고 피드백
(목표) 생성 AI 도구를 실행하는 대규모 언어 모델에서 생성된 부정확하고 오해의 소지가 있는 정보, 논리적 오류, 일관성 및 정렬을 해결하기 위한 자동화된 조정 기술을 개발하는 것
(기반 모델) LLaMA-7B
https://www.socialnationnow.com/shepherd-by-meta-the-latest-ai-tool-that-acts-as-a-guide-for-llms/
Shepherd By Meta: TAI Tool That Acts As A Guide For LLMs
Meta launched ‘Shepherd’, a new AI-based tool that can review, critique and suggest improvements to AI-generated responses to tackle inaccurate information.
www.socialnationnow.com
https://arxiv.org/abs/2308.04592
Shepherd: A Critic for Language Model Generation
As large language models improve, there is increasing interest in techniques that leverage these models' capabilities to refine their own outputs. In this work, we introduce Shepherd, a language model specifically tuned to critique responses and suggest re
arxiv.org
'07.AI' 카테고리의 다른 글
| 생성형 AI - 법제도 (0) | 2023.09.20 |
|---|---|
| LLM - OpenLLaMA (0) | 2023.08.30 |
| 생성형 AI - 인공지능 챗봇(ChatGPT) (0) | 2023.08.28 |
| 추천 시스템 - 에코 챔버 (0) | 2023.08.10 |
| 추천 시스템 - 필터버블 (Filter Buuble) (0) | 2023.08.10 |
