AI誤攻撃リスクに備えよ
ここ最近、日本国内でサイバー攻撃による不正アクセスで個人情報漏洩が凄まじい勢いで起きまくってる。そしてその攻撃にはAIエージェントが使われてるのでは?と囁かれ始めてる。 これか、情報漏洩事件の解説記事。https://t.co/Y5ebLmM86p使われていたのは GLM-5.2 と DeepSeek v4.1 Flash と Opus 4.6...
View ArticleAIは人類を滅ぼすのか?(今のところ、ノー)
コクソン氏の告発 最近AI業界では大変なことになっている。 9/9にAnthropicのコクソン氏が会社を辞めるとか言い出して、AI業界の闇を告発するような長文ツイートを書いた。...
View Article第二種電気工事士の資格試験を受けた
まだ技能試験しただけで合格かどうかは一か月待たないと分からないけど多分合格してると思うのでさっさとこの記事書いてもう終わった事にする。...
View ArticleホラーゲームのハギーワギーからAI動画のItalianBrainrotの時代へ
最近よく書いてる事だが、ここ1年間くらいでの動画生成AIの進化がすごすぎる。まあ普通に見れるレベルの品質の動画が簡単に生成してしまえる。ローカルでもRTX4090があればオープンモデルのWan2.2で5秒尺の動画が1分ほどの生成時間で生成できてしまう(高速化LoRAを使用した場合)...
View ArticleAI目当てでMacやRyzenAIMax+395を買うな
さて、タイトルについてだが、「大きなお世話だ」と言いたい人もいるかもしれない。どうして好きでMacやRyzenAIMax+395を買うのにこんなイチャモン付けられなきゃイカンの?と思うかもしれないから文脈を説明する。 私だって他人がどんなPCを買おうがイチイチ口出しする気は無いし、どうでもいいよ。...
View ArticleShaberiベンチマークでLLMを評価する
最近はますます小型LLMの開発競争が熾烈さを増している。何故か?というと今まで散々書いてきた通り、チャットベクターや進化的マージでLLMの性能が引き出せることが分かったし、それらの操作には計算資源はほとんど不要だから、個人でも参入できると分かったからだ。 Twitter上の目ぼしいメンツはみんな進化的マージに着手してるまである。当然だろう。敢えてやらない理由が見つからない。...
View Article最近の7B小型日本語LLMはエージェントになれるのか?
あれから進化的マージの試行錯誤を繰り返していたが、ついに相当性能が高そうなモデルが生まれた。 Umievo-itr012-Gleipnir-7Bである。 umiyuki/Umievo-itr012-Gleipnir-7B · Hugging Face ElyzaTasks100の平均スコアは3.91に達して、ついにGPT-3.5Turboのスコア(3.88)を上回ってしまった。...
View ArticleVRAM6GBしかないノートPCでもMergekit-Evolveで進化的マージを回したい
前回、Mergekit-Evolveによる進化的マージについて紹介した。 Mergekit-Evolve登場!進化的アルゴリズムで手元のLLMを最強進化させよう! 私の記事では評価モデルとしてローカルのLlama3-70Bを使ったのだが、その後、布留川さんが評価にGeminiのAPIを使うという画期的なアイデアを実装してくれた。 Google Colab で mergekit-evolve による...
View ArticleMergekit-Evolve登場!進化的アルゴリズムで手元のLLMを最強進化させよう!
前回の記事では、GPUが1枚だけの環境でなるべく高速にローカルでElyzaTasks100の評価を回す方法を示した。 GPUが1枚でもローカルで高速にLLM評価を回したい! だから次はこれ使って進化的アルゴリズムでモデルを進化させてみたいね!という話だったのだが、そんな時、まさに渡りに船のグッドタイミングでMergekit-Evolveが登場した!...
View ArticleGPUが1枚でもローカルで高速にLLM評価を回したい!
前回の記事の続きです。 Command R+はどこまで量子化するとアホになってしまうのか? 前回の記事で、Command R+(CR+)のようなモデルはまあ4bit程度までは量子化しても実用的に問題なさそうだという事が分かった。...
View ArticleCommand R+はどこまで量子化するとアホになってしまうのか?
今回は、ローカルで動かせるCommand R+の量子化モデルを色々使ってそれぞれにElyzaTasksベンチマークを解かせるという事をやる。...
View ArticleChatVectorで新モデル作って評価して遊ぶヤツ、自分もやりたい
最近、一部のローカルLLM勢のあいだでChatVectorで遊ぶのが流行っている。ChatVectorとは何か?というとこちらの論文で発表された技術だ。 [2310.04799] Chat Vector: A Simple Approach to Equip LLMs with Instruction Following and Model Alignment in New Languages...
View Article「キャロット通信の崩壊」を読んで
トーチ漫画賞大賞を受賞した、「キャロット通信の崩壊」という漫画が公開されていて、話題になっていた。 トーチweb 創作文芸サークル「キャロット通信」の崩壊...
View Articleマスコットホラー成功の法則
前回notionに書いた記事は少しとりとめが無かったような気がしたので、もう一度あらためてマスコットホラーゲームが何故優れているのか?についてまとめておきたい。 23/10/20 ちいかわ、海外インディーアニメ、マスコットホラー まず、私はここ数年、ゲームデザインについて書籍などで勉強した結果、体験としてのゲームに注目している。...
View Article脳の予測とクリエイティブ能力の関係。予測的符号化理論、ストーリー、音楽、ゲーム、そして観察力
今回は、以前のツイートの内容をちょっと掘り下げて書いてみる。 これマジでそう。音楽が基本的に繰り返しで構成されてるのは、脳にフレーズを学習させて次を予測させるためなのよね。予測が当たると脳は歓喜する。でもずっと同じ事を繰り返してると脳は飽きる。だからAメロからBメロ→サビって展開していく。展開が変わると予測が外れて脳は驚いて食い付く。音楽は新…— うみゆき@AI研究 (@umiyuki_ai)...
View Article