LLM 챗지피티의 진화 sLM과 온디바이스 AI 무료사용 방법은?

LLM 챗지피티의 진화 sLM과 온디바이스 AI 무료사용 방법은?

 

📝 AI에 대한 모든 정보는? : https://leeprospace.oopy.io/

🔹 5분만에 숏츠 수익화? 비디오스튜 1개월 무료쿠폰 : https://videostew.com/code/0BDCMA6TS1

🔹 생성형 AI 연구소 무료 진입 : https://cafe.naver.com/GenAI

🔹  비즈니스 업무 문의 메일 : leepro@ai-c.kr

 

소형 언어 모델이라고 해서 지금 스몰
0:10
랭귀지 모델이라고 부르는 시대에 시
0:13
시작이 열렸다 이런 말을 좀 화두로
0:15
던져 보왔습니다 어 지금까지는 이제
0:17
라즈 랭귀지 모델이라고 해서 거대한
0:20
언어 데이터세트를 학습하고 이걸
0:22
가지고 추론을 해서 최치 피트 같은
0:25
또는 바드 같은 애들이 나오고
0:26
그랬었는데 이게 지금 막대한 서버
0:29
비용도 들고 뭐 이것 때문에 좀 몇
0:31
번 얘기가 나왔었죠 오픈 AI 매출은
0:34
굉장히 크지만 굉장히 막심한 손해를
0:36
보고 있다 뭐 이걸 빨리 어떻게든
0:38
알고리즘을 최적화 시켜야 한다라는게
0:40
위기다 뭐 이런 얘기 나왔었고 저희도
0:42
한번 그런 걸 다룬 적이 있었죠 오픈
0:44
AI 이렇게 가다가 어 내년쯤에는
0:46
파산할 수도 있다 그 이유인 잭슨
0:49
서버 비용이 이제 한 유저당이 한
0:51
유저를 유지시키기 위해서 나가는 서버
0:53
비용이 너무 많이 된다 이전에 나왔던
0:56
기사에 의하면 이제 샘 알트먼 인터뷰
0:58
기사에 의하면 하루에 9억 원 정도를
1:01
매일 지출하고 있다라고 기사가
1:04
있었습니다 그게 한 또 몇 달 전
1:09
기사였으며 같이 캐시 버닝을 하고
1:12
있지 않을까라는 생각이 듭니다 그래서
1:14
지금 그 라즈 랭기지 모델들을
1:16
운영하고 있는 그 회사들이 어서 빨리
1:19
이것들을 개선을 해야 되는데 어 요만
1:21
때쯤에 딱 지금 slm 예전엔
1:24
slm이라고 불렀는데 이제 지금은
1:26
slm 부르는 쪽으로 이제좀이 단어가
1:29
좀 정립이 되어 가는 것 같습니다
1:30
스몰 랭귀지 모델로 어 부르면서
1:33
이쪽으로 지금 굉장히 경쟁이 치열해
1:34
주고 있어요 이제 그거를 반증하는게
1:37
지금 허깅페이스 오픈 리더 모드라고
1:39
해서 지금이 랭귀지 모델들의 어떤
1:42
순위를 평가하는 보드가 하나 있는데
1:45
여기 보시면 한번 제가 잠깐 띄워
1:47
보겠습니다 예전에도 한번 보여 드린
1:49
적이 있는 보드지 그래도 못 보신
1:51
분들을 위해서 이렇게 한번 더 띄워
1:53
보겠습니다 허깅 페이스에 오픈 LM
1:56
리더 보드라는 페이지가 있습니다 뭐
1:58
구글 검색하시면 쉽 쉽게 나오고요
2:00
사이트 여기 우리 생성형 AI
2:02
연구소에 들어가셔도 쓴 그레 링크가
2:04
있습니다 여기 보시면 다양한 모델들이
2:07
이제 여러 가지 문제들 우리가 알고
2:09
있던 그 문제지 중에 가장 유명한
2:12
mml 아는 문제지 바이오메디컬
2:16
그다음에 법 법률 뭐 그다음에 수학
2:18
문제 그다음에 대학 입시 문제 이런
2:19
것들을 문제지로 몇 개 만들어 몇 십
2:22
가지로 만들어서 해당하는 분야별로
2:24
점수를 낸 다음에 그거에 평균치
2:26
가지고 이제 오답 여부를 가지고서 어
2:29
점수를 먹기는 그 점수지만 기법들이
2:32
되게 다양한 모델들이 있습니다
2:33
문제지이 있습니다 그 문제지를 채점을
2:36
해서 점수들 먹여서 평균을 낸게
2:38
바로이 오픈 리더 보드라고 보시면
2:40
되겠습니다 그럼 여기 지금 보시면은
2:43
뭐 지금 1등을 하고 있는게 뭐 퀀텀
2:45
dpo 아는 모델이 1등을 하고 있고
2:47
아 최근에 그 김성 교수님 한국에
2:50
있는 스타트업 우리나라를 대표하고
2:52
있는 llm 모델의 아주 대표
2:54
스타트업 어 스테이지가 어 솔라라는
2:56
모델로 지금 리더보드에서 또 1위를
2:59
타란 라는 기사가 얼마 전에 한 하루
3:02
전에 나왔었나요 어 그런 기사가
3:04
나왔었는데 여기 딱 지금네 기록이
3:06
되었네요 업스테이지 솔라 모델
3:07
10.7b 모델 빌리언 모델이 지금
3:10
74.25 지금 한 3위 정도 했네요
3:12
얼마 전까지 1이었다 또 다른 모델이
3:14
탈환을 한 것 같습니다 근데 여기
3:17
보다 보면네 재밌는게 요게 지금 매개
3:20
변수의 크기인데 이제 얼마만큼 방대한
3:22
량의 데이터들을
3:25
학습했는지 있고이 매개 변수가 크면
3:27
클수록 당연히 어 성능이 좋을 수밖에
3:30
없습니다 거대 모델을 이용했기 때문에
3:32
좋을 수밖에 없는데 어 그 하지만
3:35
문제는 그거죠 이게 용량도 크고 이걸
3:37
추론하다 GPU 많이 들어가고 또
3:39
학습하는데 GPU 많이 들어갑니다
3:41
GPT GPT 3.5가 학습하고
3:44
빌드하는데 한 100 120억
3:46
130억 정도 들었다고 합니다 한번
3:48
그 학습을 하는데 그 이후로 뭐
3:50
lnn 모델들이 대략 한 80억 정도
3:52
든다고 하고 아무튼 이게 비경이 엄청
3:54
많이 듭니다 근데 여기 보시면 7b
3:57
모델이라고 해서 어 이렇게 조금 한
4:00
애들이 갑자기 점수가 굉장히 좋게
4:02
이제 올라오는 걸 볼 수가 있어요
4:04
이렇게 좀 내리다 보면 7비 모델들이
4:05
가끔가다 보입니다 이렇게 뭐 그린
4:07
로드라는 또 어떤 스타트업에서
4:09
그린로드 라지 랭 랭기지 모델인데
4:12
7비 모델이 또 점수가 높고 그렇다면
4:15
당연히이 거대 모델보다 적은 량의
4:18
매개 변수를 갖고 있는 모델이 훨씬
4:19
더 가볍고 이걸 추론 사용자의
4:22
서비스한데도 비용도 적게 들겠지요
4:24
지금 보시면 7 7비 모델들이 거진다
4:26
여기 포진돼 있는 걸 볼 수 있습니다
4:27
오늘 소개해드릴 미스트 모 모델에 또
4:30
한번 개선판 있 믹스트 모델도 여기
4:32
올라와 있고요 굉장히 많이 올라와
4:34
있네요 아마 그 7 7b 모델들이
4:36
이제 공개가 된 이후에 파인 튜닝이
4:39
되겠죠 모델들을 올려놓고 이렇게 점시
4:41
점수의 상위권에 등극하는 모습들을 볼
4:43
수가 있습니다 어 또 하나 재밌는
4:45
건이 중에서도 앞에 이제 8x 아고
4:48
붙는 애들이 있는데 이제 이거는
4:50
아마도 여덟 가지의 믹스처 오브
4:52
엑스라고 해서 이제 조그만 애들을
4:55
여덟 명을 붙여 놓은 그런 모델이라고
4:57
보시면 될 것 같습니다 이게 이제
4:59
GPT 4가 아키텍처를 설계를 할
5:01
때이 전까지는 그냥 방대한 양을 한
5:04
번에 학습을 해서 거대한 애를 가지고
5:06
추론을 해서 서비스를 하려고 봤더니
5:08
너무 무겁고 이제 GPU 너무 많이
5:10
드는데 이제 아주 작은 단위에 이제
5:13
하나가 하나의 전문 지식을 갖게
5:14
만들어서 전문가를 만들어 놓고 그
5:17
전문가들을 다시 믹스했더니 그게 훨씬
5:19
성능이 좋더라 해서 그게 GPT 4가
5:22
이제 MOE 아고 하는 믹스처 오브
5:24
트라는 모델 아키텍처를 따르고 있는데
5:27
지금이 미스트랄의 개선 버전인 믹스트
5:30
88x 7b 모델이 이제 그런 모델을
5:32
따르고 있는 모델입니다네 그게 지금
5:35
slm 시작일을 알리고 있다 하지만
5:38
이렇게 지금 복잡한 얘기들을 했지만
5:39
lml 소비하는 이제 저 같은 입장
5:42
또는 이제 또 다 다르신 분들
5:44
입장에서는 이게 뭐가 되었든 그냥
5:46
똑똑하고 잘 나오는 거를 그냥 빨리
5:48
썼으면 좋 좋겠다 뿐이지 지금 누가
5:51
1등 하는지 그냥 나는 1등하는
5:53
모델을 쓰고 싶습니다 내가 돈을
5:54
지불한다면 뭐 나는 일을 더 현명하게
5:57
하고 싶은 것 뿐이니까 어 어서 빨리
5:59
어떤 모델이 딱이 평정을 했으면 하는
6:02
생각이 있습니다 하지만 이런 경쟁은
6:04
언제나 좋은 서비스 모델을 더 저렴한
6:07
가격에 우리가 쓸 수 있는 기회가
6:09
만들어지기 때문에 아주 좋다고 봅니다
6:11
그리고이 그래프가이 막대 그래프가
6:13
굉장히 어 의미가 있는데 보시면
6:16
미스트 R 7 모델이 지금 그 외에
6:19
지금까지 좋다고 했던 여러 가지
6:21
모델들보다 성능이 우수한 걸 볼 수가
6:23
있습니다 그 ml 류라고 하는
6:26
문제지에서 가장 높은 성능을 보였고
6:29
추론 성능 그다음에 다른 여러 가지
6:31
수학적인 부분 다른 코드 부분에서도
6:34
월등이 점수가 높았던 거를 볼 수가
6:36
있습니다 그래서 지금이 소형 모델
6:38
중에서는 미스트랄 모델이 좀 우리가
6:41
관심 있게 봐야 된다라고 생각이
6:43
들고요 어 그 왜 주목받고 있는가
6:46
보면은 지금이 소형 모델들을 소형
6:50
랭귀지 모델들을 다 스마트폰에
6:53
탑재하려면 하고 있습니다 이걸
6:55
일부에서는 온디바이스 AI 아고
6:57
부르고 있는데 애플은 최근 근에
6:59
iOS 17.2 버전을 릴리즈 하면서
7:02
거기에 저널이라는 기본 앱이 탑재가
7:05
됐는데 이제 한글판에는 일기라고 앱이
7:08
어 탑재가 됐습니다 그 일기 앱을
7:11
통해서 이제 온디바이스 AI 시작을
7:13
알렸다는 기사가 나오고 있습니다
7:16
일기라는 앱을 딱 실행시켜 보면 내가
7:18
오늘 있었던 어떤 이벤트가 요약이
7:20
돼서 일기를 뭐랄까 뭐 기본적으로
7:23
짤막하게 자동으로 쓸 수 있게 내가
7:26
이제 클릭을 할 수 있게 돼 있습니다
7:28
오늘 어 사무실에서 사무실 근처에서
7:30
있었던 일들 해가지고 사진도 이렇게
7:32
묶어서 보여 주게 되고 제가 그걸 딱
7:34
클릭을 하면은 이미 그게 일종에 좀
7:36
채워져 있더라고요 주말에 집 근처에서
7:39
있었던 일들 해 가지고이 뭉텅이이
7:41
있습니다 그래서 그걸 클릭만 하면은
7:43
글들이 들어가 있고 제가 사진을
7:45
추가하거나 글을 덧대서 일기를 쓸 수
7:47
있도록 그렇게 되어 있습니다 근데
7:49
아마 그 일기를 쓸 때 이제 애플이
7:54
수집한 정보는 어마어마하지 않을까라는
7:57
생각이 들더라고요 GPS 정보 사진
7:59
정보 사진 속에 등장했던 사람 그리고
8:02
내 캘린더에 입력돼 있던 이벤트들이
8:05
모든 것들을 조합을 해서 어떤
8:06
텍스트를 생성하고 있을 것이다라는
8:09
추측을 하고 있습니다 아직 그
8:11
정도까지 기능을 제공하고 있지 않지만
8:13
아마 그런 것들을 거대한 그 작업을
8:16
하기 위해서 이런게 나오지 않았을까
8:18
싶고요 어 삼성은 최근 그 개발자
8:20
컨퍼런스에서 아예 딱 대놓고 얘기를
8:22
했죠 가우스를 통해서 이제 삼성
8:25
제품군들이 갖고 있는 갤럭시 손이나
8:27
아니면 갤럭시 북 노트 노트북에이
8:30
가우스를 탑재하 있다라고 했고 최근
8:32
기사에는 벌써 갤럭시 북 노트북에는
8:35
가우스가 탑재된 채로 출시를 했다라고
8:37
기사가 나왔더라고요 어 지금 기사상
8:40
S 24에 탑재한다고 공표가 되어
8:42
있습니다 그런데 아직 그 삼성 같은
8:45
경우에는이 AI 탑재를 시켜서 이제
8:48
뭘 하겠다 아지는 아직 안 나왔고
8:50
아직 뭐랄까 유용한 어플리케이션은
8:52
아직 보여 주지 못한 것 같습니다
8:53
하지만 뭐 우리가 상상할 수 있는
8:55
여러 가지 어 기 기본적으로 뭐
8:57
GPT 할 수 있었던 일들이 이 다
8:59
가능하지 않을까라고 생각을 하고
9:01
있고요 구글이 얼마 전에 제미니를
9:03
발표하면서 또 재미니 나노까지 얘기를
9:05
했죠 구글 픽셀 어 8 프로에이
9:09
제미니 나노를 그대로 탑재를 할
9:12
것이다라고 공표를 했고 이제 이렇게
9:14
되면은 어 별도의 이제 온라인 접속
9:17
없이도 그냥 스마트폰 자체에서이
9:19
스마트폰이 그동안 수집된 정보들 뭐
9:22
사진 정보 통화 목록 뭐이 캘린더에
9:25
적혀 있는 것 내 메모장 있는 이런
9:28
내용들을 조합을 해서 뭔가 추론을
9:30
해서이 주인에게 스마트폰 주인에게
9:33
유용한 정보를 제공해 주겠다 이런
9:35
식으로 가게 될 것 같습니다 어 근데
9:37
이제이 다음에 무슨 일들이 벌어질까
9:39
보면은 당연히 스마트폰 다음은
9:42
자동차에 탑재가 될 것이고 또 tv도
9:44
탑재가 되고 뭐 세탁에 탑재가 되고
9:47
이런 우리가 주변에 있는 모든
9:49
기기들의 이제 이런 것들이 소형화
9:51
돼서 탑재가 되지 않을까라고 확대
9:53
해석을 해 볼 수가 있고요 이렇게
9:55
탑재를 시키는 이유 중에는이 기업들은
9:57
이제 광고를 하겠죠 바뀌게 될 삶을
10:00
광고로 보여주고로 보여주고
10:02
소비자들은이 기기를 교체할 명목 등이
10:05
생기고 또 이제 그렇게 해서 바뀌게
10:07
될 삶을 느끼게 되고 그러면 거기에
10:09
들어갈 이제 AI 칩셋을 더 팔 수
10:11
있고 그만큼 또 더 빠른 메모리가
10:13
필요할테니까 또 메모리도 팔 수가
10:15
있고 이렇게 그 거대 공룡 기업들의
10:18
이제 이런 하드웨어까지 판매를 하려고
10:20
하는 이런 거대한게 밑바탕에 깔려
10:23
있지 않을까라는 생각이 들더라고요
10:25
이미 지금 인텔 같은 경우에는 울트라
10:28
코 라고 부르나요 인텔에서는 지금
10:30
CPU 다가 AI 칩셋 어 프로세서를
10:33
탑재해 가지고 지금 이미 얼마 전에
10:36
그 노트북도 벌써 나왔더라고요 AI
10:38
전용 칩셋이 탑재된 인텔 프로세서가
10:40
탑재된 노트북이라고 해서네 이제 그런
10:43
것들의 스몰 랭귀지 모델이 탑재가
10:45
되면 이제 별도의 인터넷 접속이
10:47
없이도 이제이 기기 내에서 온디바이스
10:50
안에서 모든 것들이 이루어질 수
10:52
있다네 그렇게 보고 있습니다 그다음에
10:54
이제이 매개 변수가 뭐 뭐 30
10:57
300억 개냐 70억 냐 이거 가지고
10:59
기준점이 나눠지고 있는데 아직 누구도
11:02
이거를 기준점을 제시한 적은 없습니다
11:04
하지만 어게 지금 통념 통념상 어
11:07
대략 30b 모델들이 좀 대세를
11:11
이뤘었다 빌리언 모델들이 대세를
11:14
이뤘었는데 7빌리언 모델이 이제 스몰
11:17
랭기지 모델에 이제 대세를 이루고
11:19
있는데 어 대략 기준으로는 이제
11:21
100억 개 미만이면 스몰 랭귀지
11:23
모델로 부른다고 이제 그런 그 정도의
11:26
기사들이 나와 있었습니다 그 정도의
11:27
글들이 있었습니다 그래서 이제이 적은
11:30
모델들을 가지고 어떻게 활용할 것인가
11:32
이렇게 할 수 있겠고 그다음에 이제
11:34
방대한 양의 모델을 학습했을 때는
11:37
이제 누가 더 많은 데이터를 넣었고
11:39
누가 더 많은 GPU 자원을 부어서
11:41
이제 거의 작금 싸움이었고 근데이
11:44
소형 모델로 가게 되면 스타트업들이
11:46
대략 뭐 여덟 대의 PC 또는 뭐 몇
11:49
한 세대의 PC Pro 며칠만 돌리면
11:51
모델을 만들어 낼 수가 있습니다 몇
11:53
또는 몇 시간만 돌리면 그렇기 때문에
11:55
이제 파인 튜닝의 어떤 경쟁이 될 거
11:58
같습니다 누가 더 어떻게 어
12:00
전략적으로 또는 더 좀 더
12:02
스마트하게이 모델을 설계해서 파인
12:04
튜닝을 해 내냐 어 어쩌면 대기업도
12:07
이길 수 있는 그런 실력 싸움이 되지
12:10
않을까라는 어 시대가 열릴 것
12:12
같습니다 그런데 어제 1등이 오늘의
12:15
1등이 아니더라고요 어제 있었던 뭐
12:17
방금 보셨다시피 여러 회사들이 지금
12:19
눈에 보였지만 이런 회사 기억도 안
12:21
나고 사실 쓰지도 않습니다 우리는
12:23
최치 PT 4요 정도만 쓰고 있고
12:26
그나마 기억나는 건 라마 2 정도
12:28
기억나고 그다음에 뭐 유명한 회사들이
12:30
내놨던 거 뭐 알리바바의 q1 그리고
12:32
지금 프랑스의 스타업 미스 미스트랄
12:34
모델 그리고 아랍 미레이 ES 만든
12:38
펠콘 뭐요 정도가 좀 기억이 나는데
12:40
사실 그거를 우리가 직접적으로 쓰고
12:42
있지 않죠 그래서 이쪽 업계는 1등만
12:45
기억하고 1등만 살아남는 그런 시장인
12:47
거 같습니다 그 왜 우리가 소형 언어
12:50
모델에 대해서 지금 관심을 가져야
12:52
될지 그리고 그중에서도 미스트랄 모델
12:55
그 7빌리언 모델이 왜 중요한지 왜
12:57
점수 점수가 좋기 때문 때문에네
12:59
그래서 그런 것들을 좀 살펴봤고 어
13:01
이거를 여러분들 pc's 설치해서
13:04
지금 돌려볼 수 있는 어 좀 쉬운 걸
13:06
버전을 한번 먼저 설명을 드리겠습니다
13:08
지니 님이 조금 더 이제 전문가적인
13:10
버전 개발자 버전을 보여 드릴 것이고
13:12
물론 지니 님의 버전도 굉장히 쉽게
13:14
잘 만들어져 있는데 제가 보여 드릴
13:16
거는 그 LM studio .ai
13:19
아는 사이트에 들어가시면네 여기 하나
13:21
보여 드릴게요 LM studio
13:23
.ai 들어가시면 각 OS 플랫폼별로
13:26
다운로드 받을 수 있는 링크가
13:27
있습니다 어 저가 같은 경 이제
13:29
윈도우즈를 쓰기 때문에 윈도우즈
13:30
버전을 다운 받아서 설치를 하게 되면
13:33
실행을 하게 되면 이제 다운과 같은
13:35
화면이 뜹니다 제가이 이미 띄어놓은
13:37
화면을 한번 보여
13:39
드리겠습니다네네 프로 아까 LM
13:41
스튜디오에서 프로그램을 받아서
13:43
실행시키면 이런 화면이 뜨게 되고요
13:45
여기에 보시면 지금 유명한 모델들이
13:48
요렇게 올라와 있습니다 그래서 여기
13:49
다운로드 버튼을 누르게 되면 해당하는
13:51
모델이이 PC 다운로드 받아 지고요
13:54
지금 저 같은 경우에는 미스트랄
13:57
7빌리언 모델 뭐 0.2 버전 이게
13:59
또 최근에 올라왔더라고요 그래서 요걸
14:01
받아서 이미 설치를 해뒀고 이렇게
14:03
설치를 하시면 여기 왼쪽 사이드바에
14:06
챗 아이콘을 누르게 되면 상단에 이제
14:09
드롭다운 박스가 있는데 여기서 모델을
14:10
선택하실 수가 있습니다네 지금은 어
14:13
미스트 모델을 한번 사용해 보겠습니다
14:15
스트럴 모델 선택했고 모델 파일이
14:18
지금 보니까 한 4기가 정도
14:19
되더라고요 4기가 정도 되죠 요거를
14:22
선택을 하고 어 오른쪽에 이제 프리셋
14:24
기능이 있는데 요거는 뭐 디폴트로 해
14:26
놔도 되고 뭐 여기에 이제 미스
14:28
인스트럭션의 조금 더 뭔가 세팅들
14:31
최적화시키는 것들이 있어서 한번
14:33
이거를 선택해 봤습니다 그리고서
14:35
여러분들이 채치 PT 질문을 남기는
14:38
것과 동일하게 이렇게 남기시면 뭐
14:40
한글로 남겨도 답변을 잘해
14:42
주더라고요네 이렇게 해서 이제 설치형
14:45
PC 버전에 스트럴 7빌리언 모델을
14:48
사용해 보실 수가 있습니다 뭐 영어로
14:50
지금 답변을 해 주고 있는데 한글로도
14:52
해 달라고 한번 남겨 보겠습니다
14:54
어떻게 나오는지 아까 그 오픈
14:57
리더보드에서 가끔 보다 다 보면 개인
14:59
이름으로 올라오는 모델이 어 상위권에
15:03
올라오는 경우가 가끔 있습니다 그렇단
15:05
소리는 개인이 GPU 장비 한 몇 개
15:08
갖고 있으신 분이 이렇게 파인 튜닝을
15:10
통해서 뭔가 다른 공룡 기업들이 올린
15:13
거보다 더 성능을 좋게 해 가지고
15:16
역전하는 경우들이 가끔 있더라고요
15:17
어네 이렇게 지금 아무래도 개인
15:19
pc's 돌리다 보니까 추론을 하다가
15:21
이제 에러가 나는 경우가 있는데 이런
15:23
식으로 돌릴 수가 있습니다 제가
15:25
이전에 남겼던 거 중에 뭐 인간은
15:27
어떻게 살아야 되는가 이런 근원적인
15:29
질문도 남겨봤는데 뭐 이렇게 또
15:31
답변을 해 주고 있었던 걸 볼 수가
15:33
있습니다 그리고 어 얘도 이제 학습된
15:35
시점은 좀 옛날로 돼 있더라고요
15:37
그래서 이제 기본적으로 우리가 확인할
15:39
수 있는 대통령 질문을 했을 때는
15:41
옛날 질문이 나왔고 제가 요즘에
15:43
피트를 테스트할 때 그 lmd 또는
15:46
스몰 LM slml 테스트할 때 주로
15:48
요즘에 넣어 보고 있는 건데 그
15:50
선교사와 식인종 문제 있잖아요 이제
15:52
뭐 약간 아큐 테스트라 그요 요즘에는
15:55
초등학생 수학 문제도 요게 나오던데
15:57
이제 세 명에서 선교사와 세 명의
15:59
식인종이 이쪽 강 강 한쪽 편에 있고
16:02
배에는 두 명만 탈 수 있고이 배를
16:04
타고 반대쪽 강을 건너야 되는데 어느
16:07
쪽에서도 식인종의 수가 선교사 수보다
16:10
많으면 선교사가 잡아먹힌다 이제이
16:12
정도의 조건을 줬고요 과연 잡아먹히지
16:15
않고 몇 회만에 가장 최적화된 횟
16:18
수만으로이 강을 건을 수 있을까라고
16:20
질문을 넣어봤습니다 근데 이제
16:22
날리더라구요 지금 제가 지금 어 구글
16:25
바드를 통해서 이제 재미니 프로를
16:27
테스트해 보려고 사실 이거를 넣어
16:29
봤고 이제 gpt4 그다음에 당연히
16:31
빙 버전에 그 고도화된 정교 버전
16:33
그다음에 클로드 2 그외에 이제 지금
16:36
이거 믹스트 모델 이런 거 넣어봤는데
16:38
좀 다들 이제 엉터리 답변을 지금
16:40
내고 있어서 당연히 이렇게 좀
16:42
논리적이고 또 이런 것들이 좀
16:43
어렵구나 순차적인 생각을 해야 되는
16:45
것들이 좀 어렵구나 생각을 하고
16:48
있었습니다네 오늘 제가 준비한 내용은
16:51
여기까지 준비했습니다 아네 감사합니다
16:55
70b게 이제 보통 이제 저희가 지금
16:58
쓰고 있는 gpt4 같은 경우에는
17:00
지금 파라미터 개수가 조단이 아니다
17:02
막 이렇게 이야기를 하고 있잖아요네
17:05
맞습니다 근데 이제 천억 개가 안
17:08
되는 파라미터를 가지고 있는데도
17:10
불구하고 이제 그걸 가지고 우리가
17:12
무엇인가 이렇게 생성할 수 있고
17:15
이런다는 거 자체는 이제 대단한 거
17:17
같다라는 생각이 좀 많이 들더라고요네
17:20
어 이게 이제 저는 이제 스마트폰에
17:22
들어오고 우리가 정말 이걸 들고
17:24
다니게 됐을 때 물론 소비자
17:26
입장에서는 이미 온라인 으로 채체
17:29
피트를 우리가 호출해서 쓰고 있었기
17:30
때문에 스마트폰에서도 얼마든지 이제
17:32
사용할 수 있는 경험들을 하고
17:34
있었는데 이게 과연 어 아예 인터넷
17:37
환경 없이도이 스마트폰에서 돈다
17:40
그러면 또 어떤 일들이 벌어질까 지금
17:42
이런 상상 시나리오를 날개를 한번
17:43
펼쳐보고 있습니다 아직 그 뾰족한
17:45
뭐가 나오진 않았지만 분명히 거기서도
17:48
또 새로운 뭐 라이프 새로운 삶 그런
17:51
것들을 보여줄 수 있지 않을까 이런
17:52
기대를 좀 해보고 있습니다 진니 님은
17:55
어떻게 보셨었나요 뭐 아네네 저도
17:58
l&m 모델들을 초기에 계속 이용을
18:01
했었는데 어 이때까지 나오는 모델들이
18:04
사양을 많이 타고 개인이 컴퓨터에서
18:07
이렇게 할 수 있다고는 하는데 뭐
18:08
컴퓨터 사양이 좋거나 아니면 뭐 다른
18:11
뭐 클라우드에서 이용하거나 이렇게
18:14
해야 되기 때문에 조금 무거워서
18:17
접근성이 좀 떨어졌었어요 근데 이제
18:19
기업들은 이런 모델들을 활용해서
18:22
계속해서 발전해왔고 개발자들도 이런
18:25
모델들을 계속 발전시켜 왔는데 지금
18:27
어 스몰 어 랭귀지 모델 이런 것들을
18:31
보니까 앞으로 이제 어 휴대폰이나 꽃
18:33
꽃도 아니죠 벌써부터 이제 출시가
18:35
된다고 해요 뭐 그런 것들을 모델을
18:38
휴대폰에 넣어서 이렇게 어느 모델
18:40
자체를 휴대폰에서 실행할 수 있게
18:42
만들 수 있는 기술들이 벌써 나오고
18:44
있어서 많이 기대가 됩니다 어
18:46
그러면은 그 기대가 되는 마음만으로
18:49
끝나지 않고 먼저 이렇게 체험해 볼
18:52
수 있도록 진희 님께서 또 환경을
18:54
마련하는 방법을 알려 주실 것 같은데
18:56
어이어서 바로 알려 주시겠습니다
18:58
천천히 직접 바로바로 시현해 보면서
19:02
재로 님이 보여주신 그런 모델들을
19:05
우리가 직접 보면서 비교도 해보고
19:07
하는 시간을 좀 가져보도록 하겠습니다