日本国産LLM「KARAKURI」が登場、NVIDIAのGPU要らず、ChatGPT-4o越えの性能、低予算で日本語最高性能AIエージェント

1 : 2024/06/22(土) 01:04:39.42 ID:ZSwxAzFJ9: 加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。
いくつかの興味深い事象が起きているからだ。
昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。

国産LLM初、AIエージェントとして使える「KARAKURI LM 8x7B Instruct v0.1」を一般公開
2024.6.20 ニュースプレスリリース大規模言語モデル（LLM）
https://karakuri.ai/seminar/news/karakuri-lm-8x7b-instruct-v0-1/

特筆すべきことは、Karakuriの日本語最高性能を誇るLLMの開発にかかった計算費が、たったの75万円だと公表されていることである。750万円の間違いかもしれない(実際、1月に発表した70Bモデルは1000万程度という話だった)が、それにしても圧倒的な低コストだ。NVIDIAのGPU、H100は今500万円以上する。

ではどうしてKarakuriはこんな低予算で日本語最高性能のエージェントLLMを作ることができたのか。それはNVIDIAのGPUを使っていないからだ。

いまLLMを作れという命令が世界中の企業で発令されているだろうが、それには大量のNVIDIAのGPUが絶対に必要であるというのが常識だった。
NVIDIAは独占企業であり、ついに時価総額世界一になった。しかし今この瞬間が彼らの栄華の頂点かもしれない。

すでに公開されているオープンLLMを8つ組み合わせて使うだけで、GPT-4o単体の性能を上回るベンチマーク結果となったと主張している。
そのソースコードが公開され、筆者は大概のことで驚かなくなったものの、やはり驚いてしまった。
詳細はソース 2024/6/21
https://wirelesswire.jp/2024/06/86709/
2 : 2024/06/22(土) 01:08:02.38 ID:lIAqXGjx0: nvidiaは三日天下だったな
3 : 2024/06/22(土) 01:08:56.23 ID:+Pqj6WnP0: そもそもモデル作る側の数なんて多寡が知れてるから、NVIDIA製品への需要なんかたいしたことなくて、
その株価はただのバブル
4 : 2024/06/22(土) 01:09:11.82 ID:orVnZUa+0: 社名からして胡散臭せーｗ

＞取引先　株式会社SBI証券

胡散くせーｗ
8 : 2024/06/22(土) 01:13:31.89 ID:+Pqj6WnP0: >>4
「また本モデルはトレーニングコストを最大50%削減できるといわれているAWS Trainiumを活用しており、開発
費用は75万円」とか、AWSの技術におんぶにだっこってことだし、それでも50%削減でしかないわけで、何を主
張したいのかねー
5 : 2024/06/22(土) 01:12:35.55 ID:orVnZUa+0: まあ、何でもいいが中国朝鮮にAI関係の技術を横流しされないようにしないとね。
あの恩を仇で返す損正義とかいう屑も恥も知らずAIとかわめいてるからねｗ
6 : 2024/06/22(土) 01:12:56.79 ID:73VXRnSe0: 消費電力は？お高いの？
7 : 2024/06/22(土) 01:13:10.19 ID:8cRfRfn40: 要するにオープンソースで自前で組めば安いから
nVIDIAもこの会社もいらんのだろう
39 : 2024/06/22(土) 01:45:53.54 ID:FkYnDUpL0: >>7
これはこの話に関してはトンチンカン
41 : 2024/06/22(土) 01:50:03.54 ID:BFqEQhvb0: >>7
LLMは全部transformer使ってるし、transformerは nvidia製GPU使うのが一番楽なんだけど
何の話をしてんの？
9 : 2024/06/22(土) 01:14:54.96 ID:jxYolEMy0: NVIDIAって、GPUAIでそんな儲けてるの？
GPU売れてるから？
33 : 2024/06/22(土) 01:38:48.81 ID:QAsuHm3q0: >>9
ビッグテックがGPUを買いまくってるから
このLLMにしても、元にしてるオープンLLMの開発にはnvidiaのGPUが使われているし
10 : 2024/06/22(土) 01:15:24.48 ID:hWWnSdBO0: 謎のAI半導体メーカーもついに用済みか(･ω･`)
11 : 2024/06/22(土) 01:16:27.75 ID:9QSQ7RiW0: もう改ざんデータでしたとかはやめてくれよ
19 : 2024/06/22(土) 01:22:58.19 ID:idJk/6b50: >>11
？？？「ありまぁす！！」
13 : 2024/06/22(土) 01:18:13.25 ID:SgC05O7P0: これも初めて聞く名前
14 : 2024/06/22(土) 01:20:26.41 ID:BzB8AVxF0: 実績ないと売れない
16 : 2024/06/22(土) 01:21:25.55 ID:swGRx9lR0: そういえばラジカル水だか人工石油だかはどうなったんだ？
17 : 2024/06/22(土) 01:21:37.50 ID:Ix2DHwgv0: ＞NVIDIAは独占企業であり、
NVIDIAってなんで独禁法に引っかからないの？
20 : 2024/06/22(土) 01:25:30.06 ID:swAIaUEV0: >>17
調査準備中やろ
18 : 2024/06/22(土) 01:22:34.58 ID:OkOinI6K0: 見たか？これが日本のモノづくりや
21 : 2024/06/22(土) 01:25:48.06 ID:q1JnxgLj0: これは怪しいな
実績を見せてくれないと何も信用出来ない
36 : 2024/06/22(土) 01:43:05.66 ID:FkYnDUpL0: >>21
それは基本的なことだよな
使われてるからの評価
口から出まかせの宣伝は誰も評価しない
22 : 2024/06/22(土) 01:26:10.42 ID:zIliheXc0: イクラ？IKURA という半導体？
23 : 2024/06/22(土) 01:27:00.75 ID:GC5lJGJG0: 空売りに見えた。
24 : 2024/06/22(土) 01:29:15.73 ID:tTGGCdGN0: キテレツ斎様だろこれ
25 : 2024/06/22(土) 01:30:30.69 ID:5XUApUWK0: あっそ
26 : 2024/06/22(土) 01:31:20.95 ID:+PLlSpA50: Karakuri chatbotの利用実績はかなりありそうだね
27 : 2024/06/22(土) 01:31:48.75 ID:+33ASAO90: エヌビディア以外のGPU使われないのはやっぱこのCUDAの堀がエグい
28 : 2024/06/22(土) 01:32:36.96 ID:+PLlSpA50: 日本の法人はこれに注目してるだろうね
29 : 2024/06/22(土) 01:33:59.49 ID:ILj3Elqo0: >>1
ホラ吹くのは千葉県産LLM「YASUHIDE」を超えてからにしろ
30 : 2024/06/22(土) 01:35:37.05 ID:aRkpch+p0: それはその8つを作る費用を出してないからだろ
8つのLLMにはNVIDIAが使われてるわけだよ
ごまかしてんじゃねーよ
31 : 2024/06/22(土) 01:36:55.64 ID:nMcimXk10: 日本のこういうのはシェア争いに負けて消えていくんだよね
35 : 2024/06/22(土) 01:41:15.54 ID:FkYnDUpL0: >>31
シェア争いできないだろ
自分で作ってない
今ある8つを使っただけ
37 : 2024/06/22(土) 01:43:47.80 ID:FkYnDUpL0: ITなんか知らない株で金儲けようという奴らを騙すための話が>>1
38 : 2024/06/22(土) 01:45:19.03 ID:zIliheXc0: さんまのからくりテレビ　KARAKURI
40 : 2024/06/22(土) 01:48:45.04 ID:V0xBi8ON0: 倶利迦羅紋紋をずっとカラクリモンモンだと思ってた
42 : 2024/06/22(土) 01:52:39.37 ID:01aCacsX0: ベンチャーらしいイノベーションだな
力勝負は大企業にやらせとけ
43 : 2024/06/22(土) 01:53:16.02 ID:lIAqXGjx0: これは大儲けのチャンス
グタグタ言ってないで儲けろ
45 : 2024/06/22(土) 01:53:39.72 ID:j1d3CFGh0: AIに夢はない