はてぶ・Qiita・Zennのトレンド記事を紹介
LLM(大規模言語モデル)は、大量のテキストデータを学習したAIモデルです。ChatGPTなどの自然言語処理AIの基盤となっています。
langchain/openevalsでLLM-as-a-judgeの基本を理解 🔖 4
はじめにLLMアプリケーションを本番環境にデプロイする際、従来のソフトウェアテストと同様、評価は非常に重要な役割を果たします。適切な評価を行わなければ、モデルが期待通りに動作しているかどうかを確認することができません。今回、LangChainが提供するopenevalsという
LLM x Slack x Notion で論文インプットを効率化し、社内ナレッジ蓄積もできるようにした話 🔖 203
はじめに 株式会社 neoAI の大坂洋豊です。東京大学に在学中で、松尾・岩澤研究室に所属しています。AI ソリューション事業部として、プロジェクトマネジメントを行いながら、研究開発組織 neoAI Research として先端技術の実践に取り組んでいます。 今回は、弊社の Sl
LLM x Slack x Notion で論文インプットを効率化し、社内ナレッジ蓄積もできるようにした話 🔖 203
はじめに株式会社 neoAI の大坂洋豊です。東京大学に在学中で、松尾・岩澤研究室に所属しています。AI ソリューション事業部として、プロジェクトマネジメントを行いながら、研究開発組織 neoAI Research として先端技術の実践に取り組んでいます。今回は、弊社の Sl
LLMにJSONやソースコードを出力させるStructured Generationの技術 🔖 241
こんにちは、イノベーションセンターの加藤です。この記事では、大規模言語モデル(LLM)にJSONやソースコードを正しく出力させるための生成手法であるStructured Generationについて紹介します。 Structured Generationとは パーサーを用いた制約
特化型llm(Doujinshi-1.8b)の開発報告書①:開発の全体像 🔖 1
はじめに沼津高専のpuwaerです。この度、R18に特化した大規模言語モデル(LLM)、Doujinshi-1.8bを開発しました。この記事では、特化型LLM(Doujinshi-1.8b)のデータセットの作成および、継続事前学習、SFTなど、特化型LLMの開発フローをプログ
R&D 本部 Responsible AI チームの黒澤です。Responsible AI チームでは、チーム名にある通り「責任のある AI」を目指し、特に大規模言語モデル (LLM) の倫理観や安全性を向上させるための取り組みを行なっています。 本記事では、言語処理学会
RMSNorm が主要な LLM で標準的に採用されているのはなぜか? 🔖 1
現在主流の多くのLLMでは LayerNorm のかわりに RMSNorm [10]が採用されています。ただ、大規模なパラメータの LLM ではむしろ MLP や Attention など GEMM 演算が占める割合が大部分を占めるので、Normalization の改善で全体的
Gemma 3やQwQなどでローカルLLMがそろそろ使い物になってきた - きしだのHatena 🔖 327
GoogleからGemma 3が出たり、AlibabaがQwQを出したりで、27Bや32BでDeepSeek V3の671Bに匹敵すると言っていて、小さいサイズや2bit量子化でも実際結構賢いので、普通の人がもってるPCでもローカルLLMが実用的に使える感じになってきています。
皆さんFactorioをご存知でしょうか?宇宙飛行の途中に未知の惑星に不時着してしまったエンジニアが、脱出用ロケットを完成させることをゴールとして石炭・鉄・銅といった資源を採掘して様々な設備・素材を生産しながら自動化工場を構築・拡張していくゲームなのですが、ベルトコンベアを使っ
シナプスの技術部システム開発課の小園です。 生成AIの大規模言語モデル(LLM)といえば、Pythonのイメージが強いのですが、シナプスでは開発メイン言語としてC#を採用しており、そのC#からLLMをAPIで使える環境が出てきたので使ってみました。 とはいえ、Pythonの方がや
背景: LLM を商品推薦に応用できないだろうか?自社のECサイトに、Item 2 Item, User 2 Item的な商品推薦を実装したい従来推薦システムの構築には膨大な行動データが必要だった。しかし、自前で膨大な行動データを持っていなくとも、LLM の膨大な訓練データ
Gemini API / LangGraph / Agent Engine で LLM Agent を実装する 🔖 11
はじめに下記の記事では、Gemini API の Function Calling を利用して、外部ツールと連携した LLM Agent を実装する方法を解説しました。Gemini API の Function Calling 機能で LLM Agent を実装するそこ
LM Studio を使ってローカルでLLMを実行する方法 🔖 61
こんにちは、Insight Edgeでリードデータサイエンティストを務めているヒメネス(Jiménez)です!前回の投稿から丸1年経ちましたが、改めて皆さんと知識共有できればと思います。今回は、話題のOpen Source LLM(Llama, Mistral, DeepSeek