LLMが苦手な麻雀点数計算問題生成タスクの精度を33%から90%に上げたMulti Agentの力 🔖 3

LLMが苦手な麻雀点数計算問題生成タスクの精度を33%から90%に上げた話をします。「無数の選択肢の組み合わせを考えるタスクだが、正解は検証できる」という特性を持つタスクの精度を上げるノウハウを共有します。

セガが「ローカルLLM」業務活用　不適切発言のチェックツールなど内製、効果は？ 🔖 44

セガが「ローカルLLM」業務活用　不適切発言のチェックツールなど内製、効果は？：CEDEC2025 セガがローカルLLMの業務活用を進めている。カスタマイズのしやすさやコストの低減を見込み、ローカルLLMを使ったツールを内製。開発用のハイスペックPCが多いというゲーム会社の利点を

無料＆オンラインで学べる東京大学松尾研の「AI講座」の受講者が7万5000人突破／「LLM（大規模言語モデル）」や「AI経営」などの講座を展開 🔖 611

LLM Servingを支える技術 🔖 43

ワシントン大学/Kotoba Technologiesの釜堀です。専門は機械学習システムで、LLMなどの推論を効率化する技術を研究・開発しています。 現代のLLMは莫大な計算・メモリを要するため、LLMを使ったサービスを提供する際には推論の効率性が非常に重要です。この分野はここ数

DSPyとMLflowで LLMアプリケーションを開発！ 🔖 1

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先日、今年6月に開催されたdatabricksのDATA+AI Summit2025を振り返るdatabricksのユーザー会に参加し、LT枠で登壇させていただきました。 jedai.connpass.com 大分

LLM Servingを支える技術 🔖 43

ワシントン大学/Kotoba Technologiesの釜堀です。専門は機械学習システムで、LLMなどの推論を効率化する技術を研究・開発しています。現代のLLMは莫大な計算・メモリを要するため、LLMを使ったサービスを提供する際には推論の効率性が非常に重要です。この分野はここ数

MacBookで無料AI。｢ローカルLLM｣がいい感じに進化してます 🔖 468

MacBookで無料AI。｢ローカルLLM｣がいい感じに進化してます2025.07.21 08:00 かみやまたくみ ローカルLLMとは、ざっくり言ってしまうと｢無料で公開されている大規模言語モデル｣のことで、自分のPCにダウンロード・専用ソフトで読み込んで使います。ChatGP

LLM推論に関する技術メモ 🔖 237

はじめに BentoMLよりLLM Inference Handbookという、LLMの推論をまとめたハンドブックがある。本記事ではハンドブックや他の情報も参照しつつ、自分のメモ用としてLM推論に関する技術をまとめていく。 LLMの推論と内部理解の必要性 LLM推論とは、GPT-

The Big LLM Architecture Comparison 🔖 86

【Ubuntu日和】 【第77回】llama.cppをビルドして、いち早く話題の日本語LLMを使おう！ 🔖 46

LLM拡張解体新書/llm-extension-deep-dive 🔖 114

2025/7/16に行われた、OCHaCafe Season10 #2 で用いた資料です。 https://ochacafe.connpass.com/event/357868/

Kimi K2をLLMエージェントで活用する場合の性能を検証してみた 🔖 1

ジェネラティブエージェンツの西見です。 最近「Open Agentic Intelligence」としてリリースされたKimi K2が気になったので、LLMエージェントとして利用した場合にどうなるか試してみました。GPT-4.1（Azure OpenAI Service経由）とC

SQLとLLM＋MCPで業務データのギャップを埋める方法 🔖 44

こんにちは。CData Software Japanマーケティングマネージャーの杉本です。 最近は生成AIやMCPに関するトピックをSNSなどのネット上で見かけない日は無いなーと感じる日々ですが、皆さんは業務で生成AI・LLMをうまく活用できていますか？ 普段プログラミングなどを

ChatGPTの結果がLLMスパムに汚染され始めた 🔖 60

[レベル: 中級] ChatGPT で、スパムの横行が顕在化し始めているようです。 ハッキングサイトと期限切れドメインから引用 Digitaloft の James Brockbank（ジェームズ・ブロックバンク）氏によると、最近の調査で、ChatGPT が特にオンラインカジノや

[Part1] 日本医療 x LLM: ユースケース応用の基盤となる日本語版汎用医療LLMの開発 🔖 4

はじめに本記事では、研究開発チームの最近の取り組みとして「日本の医療分野に特化した日本語医療LLMの開発」について紹介します。ELYZAは、内閣府戦略的イノベーション創造プログラム(SIP) 第三期 「統合ヘルスケアシステムの構築」 の「日本語版医療 LLM の開発ならびに臨

Whisperによる映像文字起こしの精度をLLMとOCRの力で向上させる 🔖 62

イノベーションセンターの加藤です。この記事ではWhisperによる音声認識の前処理と後処理にLLMとOCRを組み込むことで、映像の文字起こし精度の向上を図った際の検証結果を紹介します。 Whisperとは OCRの結果を盛り込み専門用語を認識させる 大規模言語モデルで全体の文章を

AIでインシデント対応を民主化したい！日本語セキュリティLLM開発の挑戦と挫折、そして発見 🔖 20

▼今回作成したリポジトリ この記事が、AI×セキュリティというフロンティアで奮闘する方、特に日本語という言語の壁に悩む（私のような）エンジニアにとって、何かしらのヒントや勇気になれば幸いです。 開発の動機：深夜のアラートと戦った社内SE時代の原体験 私がこのツールを作ろうと思った

LLMのAPIを活用したバックエンドアーキテクチャの事例を紹介します 🔖 53

主な処理フローとしては、「患者様から薬剤師へ」「薬剤師から患者様へ」の2つの業務フローが存在します。非同期処理については、Sidekiqのワーカーサーバーで対応しています。 LLMの環境 YOJOで使用しているLLMとその周辺ツールについてご紹介します。 モデル・API 現在、Y

LLMのEmbeddingを活用したアイテム推薦の可能性 🔖 24

こんにちは。データサイエンティストの白井です。 今日は、LLMのEmbeddingをアイテム推薦に活用すると、どんな推薦が可能になるかを紹介したいと思います。 はじめに アイテム推薦とは アイテム推薦の種類 行動履歴ベース推薦 コンテンツベース推薦 LLMのEmbeddingはコ

LLM Agentに意味のある単位のコミットを強制させる - yasuhisa's blog 🔖 33

背景: LLM Agentに意味のある小さい単位でコミットして欲しい 解決方法: git addを封印し、専用のカスタムスラッシュコマンドを生やす 参考: 試行錯誤の過程 背景: LLM Agentに意味のある小さい単位でコミットして欲しい Claude CodeなどのLLM A

R言語とLLMの連携 🔖 1

先日の第3回GenAIアナリティクス@東京でお話ししたLTが割と評判良かったようなので、改めてこちらの記事でもう少し詳しく紹介したいと思います。LLM（生成AI）の時代が来てしまいましたね。ロートルはついていくのが大変です。さて、われらがR言語にもLLMと連携...

LLM時代だからこその検索の重要性と応用 🔖 126

2025年7月10日に実施された「FRAIM×LayerX検索ミートアップ ~LLM時代の検索~」での登壇資料です。 イベントタイトル副題の「~LLM時代の検索~」に微妙に寄せてますが、大半がCOLIEE2025(国際学会ICAIL2025 workshop)で発表した内容の紹介

Introduction | LLM Inference in Production 🔖 31

B200でNVFP4量子化モデルの推論を試す（llm-compressorによるLLMの量子化） 🔖 1

はじめにこの記事は、Blackwellから対応しているNVFP4量子化と推論をB200で実際に試し、速度や精度を測定してみたという記事です。NVFP4とはなんぞやについてはこちらのNVIDIAの記事をご確認ください。https://developer.nvidia.com/

R&Dへのチャレンジ！AI・LLM事業部プロダクト開発体制updateFY25Q2 🔖 1

LayerXのAI・LLM事業部で事業部CPO 兼 プロダクト部の部長をしている小林(@nekokak)です。 2025年4月1日から事業部内の体制が変わりましたとご紹介しましたが、早いものでFirst Quarterが終わりました。心強い仲間が増えたこと、取り組みの幅が広がった

ローカルLLM実行環境LM Studio、企業・組織での商用利用を無料に | gihyo.jp 🔖 206

ローカルLLM実行環境LM Studio⁠⁠、企業⁠⁠・組織での商用利用を無料に Element Labsは2025年7月8日、同社が提供しているローカルLLM実行環境「LM Studio」を企業利用においても無料で使えるように方針を変更したことを発表した。 LM Studio

LLMは新しい抽象化をもたらす - Martin Fowler's Bliki (ja) 🔖 385

この分野の声が大きい人たちと同じように、私も生成AIシステムがソフトウェア開発にどのような役割を果たすのかについて大きな関心を持っています。LLM（大規模言語モデル）の登場は、アセンブラから最初の高水準プログラミング言語への移行と同じくらい、ソフトウェア開発を大きく変えると思いま

日本語対応＆超高速コード生成も可能な拡散大規模言語モデル(dLLM)「Mercury」が登場 🔖 20

スタンフォード大学、カリフォルニア大学ロサンゼルス校、コーネル大学の教授陣により設立された新世代の大規模言語モデル(LLM)を開発するAIスタートアップのInception Labsが、拡散モデルを取り入れた次世代LLMの拡散大規模言語モデル(dLLM)となる「Mercury」を

これは面白い! Whisper EncoderとLlama3.2を2層MLPで繋いだだけでもちゃんと音声認識から直接LLMの回答を出力できる｜shi3z 🔖 58

スライドもよくまとまっていて面白いのだが、僕が特に面白いと思ったのは、このリポジトリにあるdemo2.ipynbの内容。 簡単にいうと、音声をWhisperのEncoderに入力した後、それをわずか2層のMLP(adapterと呼ばれている)を介してLlamaに入力し、わずか1エ

あなたのAIエージェントはどっち派？ MCPツールをLLMに渡す2つの方法 🔖 4

VPoTの岩本 (iwamot) です。*1 昨日の水本さんの記事を読み、AIの登場による変化を前向きにとらえる姿勢が重要だと感じました。登場前に戻ることはもうできないですものね。 今日のぼくの記事では、AIエージェントを「使う」ではなく「作る」視点での「AIエージェント活用」を

ローカルLLMって何？　メリット、デメリット、活用例を分かりやすく解説 🔖 23

「ローカルLLM（大規模言語モデル）とは何か」「生成AI（人工知能）の便利さを享受したいが、クラウドサービスだとGPU（Graphics Processing Unit）インスタンスや運用にかかるコストが不安」。そんな疑問や悩みを抱えるIT部門、情報システム担当者、そして開発コス

"Prompting"から"Programming"へ！DSPyを使ったLLM Agent開発。 🔖 1

こんにちは、CCCCMKホールディングスAIエンジニアの三浦です。 毎日とても暑いですね・・・。体調を崩さないように気を付けないと、と思います。 databricksのDATA+AI Summit2025に参加したとき、ブレークアウトセッションで"DSPy"というAIアプリケーシ

LLMを本番品質に育てる PromptOps：”100回の試行錯誤”を支えた仕組みと文化 🔖 62

0. はじめに ELYZAと株式会社マイナビが共同開発した「マイナビAI Pencil」が公開されました。本記事ではこの開発過程において重要な役割を果たした「Prompt Engineering」と、それを支える体系的な運用基盤「PromptOps」について解説します。 「マイナ

【AI OCR】マルチモーダル LLM を使った証明書 AI OCR のベストプラクティス 🔖 1

はじめにこんにちは、ナウキャストで LLM エンジニアをしている Ryotaro です。先日、Finatext グループで生成 AI コンテストが開催されました。テクノロジー部門のテーマは 「AI を活用した新規価値創造/業務改善アプリケーションの AI 駆動開発」というもの

LLMを本番品質に育てる PromptOps：”100回の試行錯誤”を支えた仕組みと文化 🔖 62

0. はじめにELYZAと株式会社マイナビが共同開発した「マイナビAI Pencil」が公開されました。本記事ではこの開発過程において重要な役割を果たした「Prompt Engineering」と、それを支える体系的な運用基盤「PromptOps」について解説します。「マイナ

LLMを用いた補完商品推薦の開発 🔖 19

こんにちは、Data Management Office、データサイエンスセクションの横山です。本ブログでは、Oisix ECサイトにおける補完商品推薦システムの開発について紹介します。 背景 Oisix ECサイトでは、「安心・安全でおいしい食品」を軸に、バリエーション豊かな食

Tokyo dbt Meetup #15 に参加してきた(テーマ：「dbt × LLM」) #dbt_tokyo 🔖 1

日本時間2025年07月03日(水)、dbtのコミュニティイベント「Tokyo dbt Meetup #15」が開催されました。オンライン＆オフラインのハイブリッド形式で開催された当回、当エントリではオフライン参加した内容を踏まえてその雰囲気などを踏まえてレポートしたいと思いま

AIは「賢いフリ」をしていた──ハーバード大などが暴いたLLMの決定的弱点「ポチョムキン理解」とは？ | XenoSpectrum 🔖 828

大規模言語モデル（LLM）は、流暢な会話をこなし、専門的な質問にも答える。その驚くべき能力に、私たちは「AIは本当に理解しているのではないか」という期待を抱きがちだ。しかし、その知性は本物なのだろうか？ こうした我々の抱く最もな疑問に対し、2025年6月26日に発表された一つの研

文章をAIに“食わせる”方法：AIO/LLMOライティングの大原則｜ベイジの図書館 🔖 43

つまり、AIOは「AIで最適化する（with / by AI）」のための戦略的アプローチだといえます。 ２．LLMO（Large Language Model Optimization – 大規模言語モデル最適化） LLMO（Large Language Model Optimi

自分に影響を与えた6冊の本｜中村 龍矢 | LayerX 執行役員 AI・LLM事業部長 🔖 33

LayerXのAI・LLM事業部長の中村 (@nrryuya_jp) です。 このnoteは、「#日めくりLayerX」と題して発信するnote/ブログリレーの2025年7月1日の記事として投稿しています。7月はAi Workforceを提供するAI・LLM事業部の集中月間です！

langcodesでお手軽BCP 47入門（多言語領収書をLLMで賢くOCR） 🔖 1

お久しぶりです、アスエネの加藤です。アポカリプスホテル面白かったですね。ChatGPTなどのLLM を使って多言語の領収書を OCR する時、「これはどの言語・地域のテキストなのか？」 を正しく扱えると、後処理の翻訳・集計処理がグッと楽になります。そこで本記事では、言語や地域を

LLMに開発を任せる時こそ、DDDのユビキタス言語を作ろう 🔖 1

この記事で言いたいことどんなプロジェクトでも、ユビキタス言語を作ろう！ 生成AIと「言語」モデルいわゆる生成AIが加速度的に進化していく流れに乗って、ソフトウェア開発の進め方も大きく変わりつつあります。1年前の生成AIは補助的なサポート過ぎないケースがほとんどでした。し

LLMにコンテキストを効率よく渡すには？【前編】 〜大量のファイル群から欲しい部分だけ〜 - Nealle Developer's Blog 🔖 117

はじめに こんにちは、ARCHチームの野呂です。 本当は近所の美味しいラーメン屋についてのテック（？）ブログを書こうと思っていたのですが、社内で行われている「LTL会*1」というイベントで共有するために作ったスライドがあったので、先にそれをブログにしたためました。 近所の美味しい

【論文深掘り】LLM ファインチューニングの"内部動作"を探る 🔖 1

はじめに皆さん、こんにちは！最近、大規模言語モデル (LLM) の基礎的な部分を改めて学ぼうと思い、関連する論文を読み漁っていました。特にファインチューニングそのものに強い関心があったわけではないのですが、そんな中で偶然にも興味深い論文に出会いました。それが、今回ご紹介する

LLMにコンテキストを効率よく渡すには？【前編】 〜大量のファイル群から欲しい部分だけ〜 🔖 117

はじめに こんにちは、ARCHチームの野呂です。 本当は近所の美味しいラーメン屋についてのテック（？）ブログを書こうと思っていたのですが、社内で行われている「LTL会*1」というイベントで共有するために作ったスライドがあったので、先にそれをブログにしたためました。 近所の美味しい

LLMで長い出力を扱うときに、知っておくとちょっと楽になること 🔖 35

こんにちは。AI・LLM事業部 LLMグループ エンジニアのkoseiです。 AI・LLM事業部ではエンタープライズのお客様向けの文書処理業務を効率化するプロダクト「Ai Workforce」を開発・提供しています。詳細は以下のリンクをご参考ください。getaiworkforce

LLMは因果推論を理解できるのか？最新研究から探る生成AIの因果推論の可能性と課題 - Insight Edge Tech Blog 🔖 65

目次 目次 背景 因果推論とLLM 因果推論 大規模言語モデル (LLM) LLM × 因果推論に関する先行研究 LLMは本当に因果関係を理解しているのか 相関から因果を推論する難しさ：Corr2Causeベンチマーク LLMの因果推論における落とし穴：時系列と反事実の課題 因果

LLMは因果推論を理解できるのか？最新研究から探る生成AIの因果推論の可能性と課題 🔖 65

目次 目次 背景 因果推論とLLM 因果推論 大規模言語モデル (LLM) LLM × 因果推論に関する先行研究 LLMは本当に因果関係を理解しているのか 相関から因果を推論する難しさ：Corr2Causeベンチマーク LLMの因果推論における落とし穴：時系列と反事実の課題 因果

日本語医療特化型LLMの現状と展望 🔖 13

はじめにこんにちは、株式会社松尾研究所インターンのhashです。LLMや世界モデルの研究開発に興味があり、その知見や技術を応用する形でAI技術の社会実装に取り組んでいます。近年、ChatGPTやClaude、Geminiといった様々な大規模言語モデル（LLM）が登場し、教育、

日本語医療特化型LLMの現状と展望 🔖 13

はじめにこんにちは、株式会社松尾研究所インターンのhashです。LLMや世界モデルの研究開発に興味があり、その知見や技術を応用する形でAI技術の社会実装に取り組んでいます。近年、ChatGPTやClaude、Geminiといった様々な大規模言語モデル（LLM）が登場し、教育、