ChatGPT

챗Gpt OpenAi (ChatGPT)에 알아보자.

코딩하는후운 2023. 4. 18. 10:40
반응형

OpenAI는 샘 알트만(Sam Altman)이 2015년 12월 11일 설립한 인류에게 이익을 주는 것을 목표로 하는 인공지능 회사.

  • 인공지능의 정보를 오픈소스화 하여 더 안전한 인공지능의 발전을 추구하며 GPT-3등 거대 언어 모델 기반 서비스를 제공

GPT 시리즈

GPT-1

  • 인간과 간단한 대화 가능

GPT-2

  • 연구용으로 활용할 가치는 있으나 매개변수 15억개로 너무 적어 답변의 정확도가 매우 떨어짐(상용성 기대 어렵다.)
    • 빅스비나 시리 수준

GPT-3

  • 2020년 6월 출시, 11월에는 GPT-3.5가 출시
    • 매개변수 1750억개
  • 자기회귀 언어 모델
  • GPT-3의 오픈베타 공개는 OpenAI가 더이상 늘어나는 GPT개발비를 감당하지 못하고 마이크로소프트와 협약을 맺어 대중적으로 공개
    • 원격 API호출등의 유료 기능
    • 마이크로소프트 검색엔진등에도 유료 라이센스로 적용
  • 수행가능한 작업 :
    • 각종 언어 관련 문제풀이
    • 랜덤 글짓기
    • 사칙연산
    • 번역
    • 주어진 문장에 따른 웹 코딩
    • 간단한 대화

2020년 10월부터는 OpenAI는 GPT-3의 코드를 공개하지 않을 것이라고 밝혔다.

  • 이 정도 성능의 언어 모델을 만드는 데 들어간 비용을 생각해 보면 어쩔 수 없었다는 의견이 나오기도 함.

API

  • 대화: 심심이, 이루다2와 같은 대화 서비스이다. 기본적으로 더 자연스럽다.
  • 분류: 가장 기본적인 것으로 어떠한 문장에 긍정, 중립, 부정을 판단한다.
  • 번역: 구글번역기보다 수준은 떨어지나 인터넷 자료 등 학습을 통해 번역을 한다는 것이 중요한 것이다.
  • 이모티콘으로 변환: 해당 단어의 이미지를 이모티콘으로 표현한다.
  • 요약: 몇백 줄 되는 문장도 최대한 압축시켜 요약한다. 내용이 부실한 경우 역으로 추가까지 해준다.
  • 완성: 쓴 내용이 부실한 경우 자신이 부족한 내용을 대신 다 써준다.
  • Q&A: 말 그대로 질문에 대한 답변을 해주는 것이다.
  • 텍스트 삽입: 현재 베타 버전으로 내용 문맥에 맞게 생략된 부분을 유추하여 집어넣어 준다.
  • 생략된 주어 삽입: 현재 베타 버전으로 생략되어 있는 화자의 인칭대명사를 집어넣어 준다.
  • 커스텀마이징 API: 자유롭게 코딩 후 그 코딩 조건에 맞는 대답을 나오게 할 수 있다.

한계

  • 효율성이 너무 떨어진다.
    • 사전학습에 필요한 비용은 수백억단위로 다소 방대하고 학습시간도 길어 활용하기도 쉽지 않다.
  • 현실세계의 물리적 상식을 잘 모른다.(ChatGPT에서 해결)
    • 인간의 뇌처럼 ‘개념을 학습’하는 것이 아니라, ‘이 뒤에 나올 문장 중 가장 자연스러운 단어를 학습’하는 모델이기 때문.
  • 학습에 사용된 예제를 외우고 패턴을 분석, 학습하는 것이지 실제로 추론해내는 것이 아니다.
  • 가장 자연스러운 문장을 반복해서 출력하는 딥러닝 예측 모델에 불과하다
    • 기억, 추론, 이해와 같은 인간 지능을 구성하는 대부분의 요소가 결락되어 있으므로, 자아를 지닌 인격 모델이 아닌 단순 문장 출력기로 이해하는 것이 바람직하다.

GPT-3.5

  • GPT-3을 미세소정(fine-tuned)시킨 언어 모델로, ChatGPTdㅔ서 기본적으로 제공되는 언어 모델이다.
  • 2022년 11월 30일, GPT3.5 기반 ChatGPT의 베타 버전이 공개

GPT-4

  • GPT-3과 다르게 이미지 입출력 기능이 추가
  • 2023년 3월에 출시, ChatGPT plus에서 사용 가능
  • 문자, 음성, 이미지를 생성하는 ‘멀티 모달’이라고 한다.

서비스

  • 워드, 엑셀, 파워포인트 등 Microsoft 365 제품군에 GPT-4를 탑재한 인공지능 도우미를 공개
  • 워드를 분석해서 보고서용 파원포인트를 생성하는 것까지 한 줄의 명령으로 가능
  • 향후 GPT-4의 호출형 API가 GPT-3.5처럼 공개되는 경우 다른 오피스 제품군에도 적용 가능할 것으로 보인다.

GPT-5

  • 25000개 gpu로 학습되고 있다고 한다.
  • A100으로 학습된 GPT-4와는 달리 차세대 그래픽 카드인 H100으로 학습되는 것으로 추정
  • 샘 알트만은 2023월 4월 MIT의 행사에서 GPT-5에 대한 학습을 당분간 하지 않을 것이라고 밝힘.
  • 비디오 입출력 능력이 추가

 
참조 :
https://namu.wiki/w/OpenAI

OpenAI - 나무위키

Generative Pre-trained Transformer 1 GPT의 첫번째 버전. 2018년 6월 11일에 출시 되었다. 인간과 간단한 대화가 가능하다.

namu.wiki

https://namu.wiki/w/GPT-3

GPT-3 - 나무위키

The GPT-3 hype is way too much. It's impressive (thanks for the nice compliments!) but it still has serious weaknesses and sometimes makes very silly mistakes. AI is going to change the world, but GPT-3 is just a very early glimpse. We have a lot still to

namu.wiki

https://namu.wiki/w/GPT-4

GPT-4 - 나무위키

이 저작물은 CC BY-NC-SA 2.0 KR에 따라 이용할 수 있습니다. (단, 라이선스가 명시된 일부 문서 및 삽화 제외) 기여하신 문서의 저작권은 각 기여자에게 있으며, 각 기여자는 기여하신 부분의 저작권

namu.wiki

https://namu.wiki/w/GPT-5

GPT-5 - 나무위키

이 저작물은 CC BY-NC-SA 2.0 KR에 따라 이용할 수 있습니다. (단, 라이선스가 명시된 일부 문서 및 삽화 제외) 기여하신 문서의 저작권은 각 기여자에게 있으며, 각 기여자는 기여하신 부분의 저작권

namu.wiki

 

반응형