반응형
OpenAI는 샘 알트만(Sam Altman)이 2015년 12월 11일 설립한 인류에게 이익을 주는 것을 목표로 하는 인공지능 회사.
- 인공지능의 정보를 오픈소스화 하여 더 안전한 인공지능의 발전을 추구하며 GPT-3등 거대 언어 모델 기반 서비스를 제공
GPT 시리즈
GPT-1
- 인간과 간단한 대화 가능
GPT-2
- 연구용으로 활용할 가치는 있으나 매개변수 15억개로 너무 적어 답변의 정확도가 매우 떨어짐(상용성 기대 어렵다.)
- 빅스비나 시리 수준
GPT-3
- 2020년 6월 출시, 11월에는 GPT-3.5가 출시
- 매개변수 1750억개
- 자기회귀 언어 모델
- GPT-3의 오픈베타 공개는 OpenAI가 더이상 늘어나는 GPT개발비를 감당하지 못하고 마이크로소프트와 협약을 맺어 대중적으로 공개
- 원격 API호출등의 유료 기능
- 마이크로소프트 검색엔진등에도 유료 라이센스로 적용
- 수행가능한 작업 :
- 각종 언어 관련 문제풀이
- 랜덤 글짓기
- 사칙연산
- 번역
- 주어진 문장에 따른 웹 코딩
- 간단한 대화
2020년 10월부터는 OpenAI는 GPT-3의 코드를 공개하지 않을 것이라고 밝혔다.
- 이 정도 성능의 언어 모델을 만드는 데 들어간 비용을 생각해 보면 어쩔 수 없었다는 의견이 나오기도 함.
API
- 대화: 심심이, 이루다2와 같은 대화 서비스이다. 기본적으로 더 자연스럽다.
- 분류: 가장 기본적인 것으로 어떠한 문장에 긍정, 중립, 부정을 판단한다.
- 번역: 구글번역기보다 수준은 떨어지나 인터넷 자료 등 학습을 통해 번역을 한다는 것이 중요한 것이다.
- 이모티콘으로 변환: 해당 단어의 이미지를 이모티콘으로 표현한다.
- 요약: 몇백 줄 되는 문장도 최대한 압축시켜 요약한다. 내용이 부실한 경우 역으로 추가까지 해준다.
- 완성: 쓴 내용이 부실한 경우 자신이 부족한 내용을 대신 다 써준다.
- Q&A: 말 그대로 질문에 대한 답변을 해주는 것이다.
- 텍스트 삽입: 현재 베타 버전으로 내용 문맥에 맞게 생략된 부분을 유추하여 집어넣어 준다.
- 생략된 주어 삽입: 현재 베타 버전으로 생략되어 있는 화자의 인칭대명사를 집어넣어 준다.
- 커스텀마이징 API: 자유롭게 코딩 후 그 코딩 조건에 맞는 대답을 나오게 할 수 있다.
한계
- 효율성이 너무 떨어진다.
- 사전학습에 필요한 비용은 수백억단위로 다소 방대하고 학습시간도 길어 활용하기도 쉽지 않다.
- 현실세계의 물리적 상식을 잘 모른다.(ChatGPT에서 해결)
- 인간의 뇌처럼 ‘개념을 학습’하는 것이 아니라, ‘이 뒤에 나올 문장 중 가장 자연스러운 단어를 학습’하는 모델이기 때문.
- 학습에 사용된 예제를 외우고 패턴을 분석, 학습하는 것이지 실제로 추론해내는 것이 아니다.
- 가장 자연스러운 문장을 반복해서 출력하는 딥러닝 예측 모델에 불과하다
- 기억, 추론, 이해와 같은 인간 지능을 구성하는 대부분의 요소가 결락되어 있으므로, 자아를 지닌 인격 모델이 아닌 단순 문장 출력기로 이해하는 것이 바람직하다.
GPT-3.5
- GPT-3을 미세소정(fine-tuned)시킨 언어 모델로, ChatGPTdㅔ서 기본적으로 제공되는 언어 모델이다.
- 2022년 11월 30일, GPT3.5 기반 ChatGPT의 베타 버전이 공개
GPT-4
- GPT-3과 다르게 이미지 입출력 기능이 추가
- 2023년 3월에 출시, ChatGPT plus에서 사용 가능
- 문자, 음성, 이미지를 생성하는 ‘멀티 모달’이라고 한다.
서비스
- 워드, 엑셀, 파워포인트 등 Microsoft 365 제품군에 GPT-4를 탑재한 인공지능 도우미를 공개
- 워드를 분석해서 보고서용 파원포인트를 생성하는 것까지 한 줄의 명령으로 가능
- 향후 GPT-4의 호출형 API가 GPT-3.5처럼 공개되는 경우 다른 오피스 제품군에도 적용 가능할 것으로 보인다.
GPT-5
- 25000개 gpu로 학습되고 있다고 한다.
- A100으로 학습된 GPT-4와는 달리 차세대 그래픽 카드인 H100으로 학습되는 것으로 추정
- 샘 알트만은 2023월 4월 MIT의 행사에서 GPT-5에 대한 학습을 당분간 하지 않을 것이라고 밝힘.
- 비디오 입출력 능력이 추가
참조 :
https://namu.wiki/w/OpenAI
반응형