728x90
반응형
SMALL
OpenAI DevDay 발표 ChatGPT 업데이트 내용 정리 (2023년 11월)
안녕하세요 밤새 오픈에서 데이라는
개발자를 위한 컨퍼런스가 열렸습니다
그리고 거기서 여러 가지 업데이트
내용들이 발표가 됐는데 저도 공부
겸해서 한번 내용을 정리를 해
봤습니다 내용들은 대부분 개발자를
위한 어 API 관련된 내용들인데 그
외에도 내용들이 몇 가지 있으니까
한번 같이 살펴보시면
좋겠습니다 자 우선 가장 기대를 많이
하고 있던 gpt4 터버 모델이
발표가
되었습니다 기존에 있던 것은 GPT
4 아니면 GPT 3.5 보 모델이
있었는데 이제 신규로 GPT 4 터보
모델이 발표가 된 겁니다 기존의
GPT 4 모델에 비해서 더 빠르고
저렴해졌습니다 가격은 입력 토크는
3분 1 출력 토크는 절반 가격으로
측정이 됐고요 컨텍스트 윈도도 굉장히
커졌습니다 기존에 GPT 4 모델은
8k 7리 모델이 있고 32k 리
모델이 있었습니다 근데 거기서 대폭
향상이 돼서 12만 8천
토큰 수만큼 다룰 수 있는 컨텍스트
윈도우라는 것이 입력과 출력을 합친
총 토큰 개수를 말을 하거든요 그래서
우리가 보통 논문 하나를 보면 한
3k 좀 긴 논문이면 뭐 8k 10k
정도까지 보통 갑니다 그런데 128k
이제 거의 책 몇 권 수준 그 정도에
굉장히 긴 컨텍스트 윈라 볼 수
있겠습니다 클로드 2 모델이 100k
모델이어 가지고 여러 개 파일들을
올려가지고 뭔가 작업을 할 수 있는
그런 장점이 있었는데 이제 gpt4
터버 모델로도 그만큼 긴 텍스트를
가지고 작업을 할 수 있게
되었습니다 그리고 시간당 요청을
보내는 레이트 리미트가 두 배로 상향
조정이 되었고 리지 커도 최신화가
됐습니다 그래서 2023년 4월까지
올해 4월까지 내용을 이제이 모델에게
물어보면 얘가 알고
있습니다 그리고 이제 개발자가 아니면
별로 관심이 없으실 텐데 펑션
링이라고 해서 어떤 펑션을 미리
지정을 해놓으면 그 텍스트 내용에서
어 그 내용을 얘가 인정 인식을 해서
특정 펑션을 실행시키는 그런 출력을
얘가 해주는 기능이 있었거든요 그래서
그게 이제 GPT 4에는 없었는데
gpt4 터보에는 이제 생겼습니다
그리고 션을 더 잘하게 개선이 됐다
이렇게 말을 하고 있고 여기 인이라는
것은 이러이러한 식으로 출력을
해라라는 명령을 더 잘 따른다는
말입니다 예를 들어서 뭐 어떤 특정한
포맷으로 출력을 해라 이런 것들을 더
잘 따르게 되었고 특히 이제 제이슨
모드라는 것이 있어 가지고 이거를
활성화를 시키면 출력이 항상 완벽한
제이손 구문을 따르는 형태로 출력을
하도록 그렇게 할 수도 있습니다
그래서 가격을 보시면 어 GPT 4
8k 모델의 경우에 이제 인풋이
0.03 아웃풋이
0.06이었는데 새로 나온 gpt4
터보 128k 모델은이 가격에 비해서
1 출력의 경우
절반으로 다운이 됐습니다 기존에 더
컨텍스 윈도가 넓었던 32k 모델
기준으로 보시면 1 아웃풋은 1로
굉장히 많이 저렴해졌습니다 그래서
뭐이 정도 가격이면 이런저런
프로젝트에 어 훨씬 부담을 덜 느끼고
쓸 수 있겠다
싶습니다 기존에 있던 GPT 3.5
보도 업데이트가 됐는데 가격은 가격이
다운됐습니다 입력은 2 출력은
동일하고 컨텍스트 윈도도 얘가 두
가지 모델이 있었습니다 4K 16k
에서 16k 4짜리 업데이트 됐다고
업그레이드됐다고 보시면 됩니다 그리고
3.5 보 같은 경우에도 이제
인스트럭션을 더 잘한다 제이선 모드도
지원을 하고 그리고 펑션 컬링 할 때
기존에는 하나씩 하나씩 펑션을 콜링을
했거든요 그런데 이제 하나의 어
텍스트에서 여러 개의 펑션을 동시에
콜링 하는 것이 가능해졌다고 합니다
그래서 가격을 보시면 어 인풋이 이제
0.0015 달러였는데 이게
0.001 달러로 2 가격으로
떨어졌고 16km 모델이랑 비교하면
13로 감소한 것으로 볼 수
있겠습니다 그리고 아웃풋은 0.002
0.004 있는데 0.2로 다운이
됐습니다 그리고 GPT 3.5 4 보
모델에서 이제 리블 아웃풋로
probability 업데이트가
됐습니다 이게 뭐냐면 어어 모델의
경우에는 좀 랜덤성이 내제되어
있습니다 그래서 똑같은 질문을
하더라도 매번 똑같은 질문을 해도
조금씩 다른 그런 결과가 생성되는
랜덤성이 있는데 그 랜덤성을 결정하는
시드 값을 고정을 시킬 수가 있습니다
다시 말해서 모든 세팅이 다 같고
거기에 시드까지 고정을 시키면 똑같은
결과가 나옵니다 그래서 일종의 제현
실험이 가능하다는 예 그런 변화가
있겠습니다 그래서 혹시 이제
실험적으로 연구 목적으로 사용하시는
경우에는 이런 식으로 CD 고정시켜서
제연 실험이 가능하다는 것이 굉장히
중요한 변화가 되겠습니다 그리고 어떤
문장이 있을 때 그다음에 출연할
단어를 예측을 할 때 어 여러 가지
단어들 무슨 단어가 어느 정도의
티로 출연할 수 있다라는 확률 분포를
계산해 주는데 그것을 이제 출력하는
것이 가능해졌습니다 그래서 다음에
출연할
단어가 이런 이런 확률을 가지고 있다
아니면 예를 들어서 앞에 뭐
프롬프트를 어떤 조정을 했더니
그다음으로 출연할 단어가 이런 식으로
변한다던가 그래서 어떤 프롬프트의
영향을 연구한다 그나 아니면 자동
완성 기능을 만들 때 이렇게 쭉
입력하고 그다음에 출연할 단어 예측을
할 때 이제 가장 높은 단어 그다음
단어 그다음 단어를 이런 식으로
보여주는 그런 기능으로도 활용을 할
수가
있겠습니다 그다음 업데이트 사항은
어스턴 API 것이 생겼습니다 그래서
굉장히 재밌는 기능입니다 지금 GPT
4 버전을 유료로 사용하신 경우에
GPT 4 모델 의 경우에는 여러
가지 기능들을 가지고 있습니다 그런데
이제 그런 기능들을 가진 모델을
API 접근이 가능해졌다라고
생각하시면 됩니다 게다가 거기다가
조금 더 커스텀 어 세팅을 할 수
있는 방식으로 바뀌었습니다 이제 그런
것들을 커스텀
GPT라고 부르고
있는데요 어떤 GPT 모델을 기반으로
할지 어 GPT 3.5 터보를 하겠다
GPT 4 보를 하겠다 뭐 이런
식으로 선택을 할 수 있고 이제
커스텀 인스트럭션을 따로 넣을 수가
있고 일종에 시스템 프롬트 비슷하게
생각하시면 되겠습니다 그리고 작업을
하는데
rag 레이션에 활용할 관련된 문서
같은 것들을 미리 업로드해 놓고
활용을 할 수가 있겠습니다 그리고
여러가지 툴들서 말하는 툴은 코드
인터프리터 아니면 데이터 스라고 사용
말하는 그 파이썬 코드를 실행시킬 수
있는 능력 있죠 그거를 일종 툴
형태로 가져다가 쓸 수
있고 검색 기능이죠 링 이런 것들을
툴로 지정을 해서 어떤 툴들을
사용할지 지정을 할 수가
있습니다 그리고 이제 대화 내용을
기존의 API 상해 보셨으면 알겠지만
지금까지 했던 주고받았던
대화들을 하나의 리스트처럼 만들어
가지고 한꺼번에 API 전송을 해
줘야 됐습니다 그런데 그 방식이 좀
바뀌 가지고 어시스턴스 API
경우에는 쓰레드 형태로 관리를 하면서
메시지 하나가 추가될 때마다 쓰레드에
추가해주는 식으로 훨씬 더 간단하게
관리를 할 수가 있습니다 그리고
로컬에서 쓰레드를 관리를 할 수가
없게 된 점도 있는데요 왜냐면 이제
코드 인터프리터 같은 경우 예를
들어서 서버에서 뭔가 돌아가고 있는데
로컬에서는 그 결과를 다 가져올 수
없기 때문에 쓰레드 형태로 여기다
메시지만 추가해서 원격으로 코드
인터프리터가 돌아가는 그런 형태로
API 작업을 하게 될 것 같습니다
그래서 어시스턴스 API 지금
플레이그라운드에서 사용할 수 있게
열어 줬거든요 그래서 여기 링크로
가보시면 되고 11월 17일까지 무료
합니다 그래서 영상 보시게 되면 관심
있으시면 이것저것 한번 테스트해
보시면 재밌을 것 같습니다 제가 한번
테스트로 논문 어시스턴트를 만들었고
자 너는 친절한 교수님이 학생이 논문
PDF 올리면 그거에 대해서 이러
이러한 식으로 대답을 해 줘라고
이렇게 인스트럭션을 만들었습니다
그리고 모델은 가장 최근에 업데이트된
gpt4 11월 6일 버전을 이용을
했고 거기다가 이제 코드 인터프리터
화시켜 놓고 트도 활성화를 시켜 놓고
딱히 파일은 업로드해 주지
않았습니다 그런 다음에 학생이 이제
논문을 업로드하면서
meer 하고 이렇게 논문을 업로드를
했습니다 그러면 이제 그거에 대해서
논문
어스가 대답을 해주고 뭔 대화를고
받고 하면서 그 논문에 대해서 공부를
할 수 있도록 한번 만들어봤습니다
기존에 있던
라든가 스페이스가 이런 기능들을
간단하게 이렇게
여기서 세팅만으로 구현을 할 수가
있게 됐습니다 그래서 재밌는 것이
여기 이제 파일을 업로드할 수가
있는데 여기 업로드하는 파일들이 이제
PDF 뭐 텍스트 파일이라 엑셀
파일이라 이런 것들을 다 업로드 할
수가 있거든요 그러면 그 업로드한
것을 어 저장을 하고 쪼개고 질문에
따라서 필요한 부분들을 가지고 와서
어 rag 실행을 하고 이런 과정들을
얘가 알아서 해 준다는 점이 굉장히
편한 것 같습니다 그래서 어이 기능만
잘 이용을 해도 굳
유료 결제에서 사용하는 다른
소프트웨어들이 필요 없게 되지 않나
뭐 이런 생각도
듭니다 앞에서 보여드린 그 어시스턴스
어 커스텀 GPT 이런 말씀을
드렸는데 어 키노트 영상을 보시면 샘
얼트 아이죠 커스텀 GPT 빌더는
것을 시현을 하고 있습니다 그래서
GPT 빌더에게 자 어떤 어시스턴트를
만들래라고 물어보면 이러이러한
어시스턴트를 한번 만들고 싶어라고
이렇게 자연어로 입력을 합니다 그러면
그 말을 알아듣고 얘가 로고도 하나
만들어 주고 자 이런 식으로 만들래
만들 거야 어때 이제 거기 대해서
뭔가 피드백을 주고 그러면서 어이 세
알트만이 예전에 발표를 했던 내용
텍스트 파일을 업로드를 하면서
이렇게 하나의 어시스턴트를
만들었습니다 커스텀 GPT 만든 거죠
그런 다음에 그 커스텀 GPT게 자
어
스타트를 시작하는
시점에서 직원을 뽑을 때 어 어떤
점을에 집중을 해야 되나요 그런
식으로 이렇게 질문을 했습니다
그랬더니 예전에 샘 알트만이 다른
데에서 강연을 했던 내용에 기반을
해서 이렇게 대답을 해주고
있습니다 그래서 이런 식으로 뭔가
리지를 어 어떤 파일 형태로
업로드해서 그걸 바탕으로 어떤 대답을
해주는 이런 식으로 커스텀 GPT
만들 수가 있게 되었습니다 그래서
이제 점차 보급이 될 예정이고 이게
개개인이 이렇게 만들어쓰는 것도
능하고 아니면 어떤 사람이 아주 잘
세팅해 놓은게 있으면 이거를
앱스토어에서 앱을 다운로드 받아서
사용한 듯이 커스텀 GPT 다운로드
받아 가지고
사용하는 골라서 사용하는 그런 식으로
될 거라고 합니다 그리고 아주 잘
만들어진 것은 뭐 유료 버전도
있다라고 하면 사람들이 유료 결제를
하고 그러면이 커스텀 GPT 만든
사람에게 그 수익의 일부가 쉐어링이
될 거라고 그래서 새로운 생태계가
만들어질 거라고 이야기를 하고
있습니다 그래서 개인적으로이 부분이
어떻게 보면 가장 큰 변화가 되지
않을까라고 생각을 하고
있습니다 그다음으로는 이제 API
멀티모달 여러 가지 모달리티 지원하는
것들이 이제 보급 추가가 되었습니다
그래서 GPT 4에 비전이 가능하죠
UI 이용해서 비전 어떤 이미지
파일을 업로드해서 그걸 가지고 작업을
하는 것이 가능한데 이게 API 있도
지원이 되기 시작합니다 사진을
입력해서 어떤 작업을 API 통해서
프로그램을 이용해서 하는 것이
가능해졌습니다
달리 3도 API 통해서 접근이
가능해서 어떤 종류의 그림을 생성하는
것도 가능해졌고 또 텍스트 스피치도
API 지원이 됐습니다 아마 유료
결제를 하시는 분들 중에서 앱에서
대화형으로 사용해 보신 핸즈프리
기능을 사용해 보신 적 있을 겁니다
그중에서 텍스트를 생성하는 부분이
API 이제
가능해졌습니다 그리고 또 그과
관련해서 2 이후에 이제 버전 3가
나왔다고 합니다 그서 스 버전 3가
오픈 소스로 풀렸대요 그래서 스피치
어떤 음성을 텍스트로 변환해주는 그런
기능인데 오픈소스로 풀렸고 또 컨시스
디코더 해서 스테이블 퓨전에 디코더
부분에 해당하는 그 모델이 또
오픈소스로 공개를 했다고 합니다
그래서 저는 사용하지 않는 기능들이라
크게 관심은 안가졌는데 혹시나 싶어서
언급을 합니다 그래서 이런 식으로 어
텍스트 기반에서 가지 모달리티
음성이라 그림이라 이런 것들을
입력하고 출력하고 하는 기능들이 점점
강화되고 있는 그런 추세를 보이고
있습니다 그리고 모델 커스터마이제이션
대한 것도 몇 가지가 발표됐는데요
우선 이거를 기대하고 계신 분들
많더라고요 GPT 4의 파인튜닝
이전까지는 GPT 3의 파인 튜닝만
가능했거든요 그래서 GPT 3를
통해서 뭔가 파인 튜닝을 해서
사용하지만 기본적인 어 사고 능력
같은 것들이 GPT 4보다 너무
떨어져 가지고 제대로 사용을 못하는
그런 경우들이 있었는데 GPT 4를
파인튜닝 할 수 있게 점차 풀릴
예정이라고 합니다 아직은 이제
베타테스트 비슷하게 하고 있는 거
같아요 그리고 이제 커스텀 모델스
프로그램이라는 것이 생겨 가지고
이거는 이제 시범적으로 아주 큰
업체들에게 비싼 돈을 받고 하겠다는
식으로 이야기를 하고 있습니다 그래서
그 회사의 어떤 프티 데이터를
기반으로 아예 처음부터 트레이닝 프리
트레이닝부터
해가지고 스닝 분까지 전부 다 그
회사에서 원하는 형태로 해주는 그런
맞춤 서비스라고 보시면 되겠습니다
그래서 어
이제 대형 회사들 해가지고 이런
고비용의 고성능 맞춤형 그런
서비스들을 하면서 제공을 하면서 오픈
에에서 이제 큰 돈을 벌기 시작하지
않을까
싶습니다 그리고 커피라이트 드라는
것도 발표를
했는데요이 에서도 비슷한 걸 했었는데
자기네 툴을 이용을 해서 어떤 저작권
문제 표절 뭐 이런 문제가 발생해서
어 비용이 발생을 하게 되면 그과
관련된 것을 지원을 해 주겠다 이런
식으로
자기들의 어 제너러티브
툴들이 충분히 오리지널리티를 가지고
있고 표절이 아니라는 그런 자신감을
보인 것이 있었거든요 그래서 오픈
AI 경우에도 이제 커피라이트
실드라는 프로그램을 발표하면서 이제
만약에
어 채치 PT 엔터프라이즈 기업용
채치 PT 기능이나 디벨로퍼 플랫폼에
있는 내용들을 활용을 하다가 이런
저작권 이슈로 비용이 발생하게 되면
우리가 보상을 해 주겠다 이런 식으로
자신감을 내보이고
있습니다네 그래서 어 개인적인 총평을
드리자면 이제 비개발자 입장에서는
앞으로 커스텀 GPT 내가 딱 원하는
어떤 세팅값을 가지고 있는 그런
GPT 모델을 만들어서 사용할 수
있는 그런 시대가
되겠구나이 부분을 염두해 주시면 될
것 같습니다 어 예를 들어서 저 같은
경우 이제 일본어 공부를 하는데 뭔가
일본어 문장을 입력을 하면 두 말
없이 그냥 바로 뭐 문법이나 이런
것들을 설명해 주는 그런 모델을
만들고 또 내가 그동안 공부했던 진도
관련된 파일을 올려놓고 그것을 이제
순차적으로 진행을 한다거나 이런
식으로 커스텀 GPT 만들고 아니면
논문 참을 하도록 뭔가 인스트럭션을
정확하게 해놓고 이제 내가 참고하고
싶은 논문들 몇 개를 업로드해 놓은
또 그런 커스텀 gbt 만들어서 논문
작성하는 는데도 사용을 하고 이런
식으로 상황에 맞춰 가지고 여러 가지
세팅들 미리 지정을 해 두고 그것들을
그때그때 불러들여서 사용하는 앱을
설치해 필요한 앱을 실행시키는
방식으로 사용하는 그런 시대가 될
거라고 예상을 할 수가
있겠습니다 그리고 개발자 입장에서는
모델이 싸고 빠르고 또 컨택스트
윈도가 128k 있지 아주 커졌습니다
그래서 기존에 어 비용 문제나 아니면
속도 문제 때문에 고민했던 부분
아니면 컨텍스트 윈도우가 좁아 가지고
못했던 작업들 이런 것들을 이제 훨씬
더 편하게 할 수가 있게 될 것
같습니다 그리고 어시스턴스 기능도
굉장히 기대가 됩니다 여기에 파일도
업로드 할 수가 있고 또 자체적으로
파이썬 코드를 실행해서 어떤 출력을
할 수도 있고 그런다음에 그 출력
내용을 다운로드 받는 것도 가능하고
또 그림도 생성 가능하고 그래서 이런
것들을 보면 어 뭔가 자동화 시키는데
활용할 여지가 많겠다는 기대가 됩니다
그리고 기존의 라지 랭기지 모델을
생각을 하면 텍스트 기반의 모델이었죠
그런데 앞으로 이제 점점
음성이라는 사진 그림이라는 이런
식으로 여러 가지 모달리티 제
지원하는 멀티모달 쪽으로 확장해 가는
그런 추세를 읽을 수가 있었습니다
그래서 간단하게 이렇게 리뷰를
마치도록 하겠습니다
728x90
반응형
LIST
