LLMの検証を加速するトレースツール：Langfuseのご紹介 🔖 1

はじめに株式会社Rehab for JAPAN でMLOpsエンジニアをしている松本です。LLMアプリケーションの開発と運用において、パフォーマンスの監視と分析は重要な課題です。今回は、LLM監視プラットフォーム「Langfuse」に焦点を当て、その機能と魅力をご紹介します

結局ExcelをLLMに読み込ませたいときにどうすりゃいいのか、"鬼"に聞いてみたメモ 🔖 424

ExcelをLLMに読み込ませたいけれど、そのままだと読めないと思うから、いったんMarkdownに変更してみたけれど、そこから先の精度がうまく出ないし、どうしたらいいかもわからない……。みなさん、そんな経験はありませんか？　僕はいまそうなっています！というわけで、ChatGP

【LLMは無料で使え！】OpenRouterのススメ【CLINEにも！】 🔖 84

はじめにhttps://openrouter.ai/便利なのになんとなく使ってる人少ないなあと思ってたので、記事にしてみました。いろんなLLMを統合できるというメリットもありますが、普通に高性能モデルを無料で使えるので、それだけでも使い倒す価値はあると思います。 Ope

LLMを活用した商品検索タグ自動生成とRecall改善の取り組み(BigQuery × Gemini) 🔖 56

はじめに 課題：情報不足による検索ヒット率の低さ 施策：LLMによる検索タグの自動生成と活用 なぜタグ生成か？ 設計 JANコード単位での生成と管理 タグデータの更新について タグ生成の品質とリスク プロジェクトの進め方 1. PoC：タグ自動生成の実現可能性と品質検証 2. イ

LLMアプリの作成からテストとデプロイまで、LLMOpsの構築事例の紹介 🔖 9

LLMOpsとは？近年、GPT-4のような大規模言語モデル（large language model、以下LLM）の使用が普及し、それを活用したアプリケーションの開発が活発に行われています。たとえば...

OpenHands Cloudで、とりあえず50ドルぐらいLLM Agent開発を回す 🔖 1

【RAG】文書をパラメータ化してLLMに直接注入する手法 🔖 41

本記事では、RAGの性能を高めるための「DyPRAG」という手法について、ざっくり理解します。株式会社ナレッジセンスは、エンタープライズ企業向けにRAGを提供しているスタートアップです。 この記事は何この記事は、RAGの新手法である「DyPRAG」の論文[1]について、日本

画像に対する異常検知結果をLLMに解説させてみた 🔖 15

Insight Edgeのデータサイエンティストの山科です。 今回はタイトルにもある通り、画像に対する異常検知結果を大規模言語モデル(LLM)で解説させることで説明性を付与できるか検証を行いましたので、その結果について記載したいと思います。 なお、本内容は先日、長崎で開催された自

LLMでマインドマップを作る方法 🔖 8

ふと、マインドマップを作りたくなったので調べてみました。なるべく長く使えそうな汎用的な手法を書いておきます。 Markmapを使うChatGPTをはじめとして、大体のLLMで使えると思います。プロンプトは以下のような感じ。からあげの作り方をMarkmap形式で書き出してく

AI・LLM事業部プロダクト開発体制について 🔖 40

LayerXのAI・LLM事業部で事業部CPO 兼 プロダクト部の部長をしている小林(@nekokak)です。 2025年4月1日から事業部内の体制が変わり、プロダクト開発を推進するチームもupdateがあったのですが、内外からどういう体制なんですか？って聞かれることが多いので簡

中学生がLLMの選定プラットフォーム作ったので使って: LMSpecs 🔖 7

今日で中学生を名乗れるのが最後なので、名乗りたいと思います。LLM を活用したサービスを使ったり作ったりするとき、どの LLM を使うか迷ったことはありませんか？選定するには、各モデルの比較が必要です。その比較をするプラットフォームを作成したので、紹介します。https:/

LLMによるパワポ自動生成にチャレンジしてわかった課題 🔖 49

はじめに こんにちは。２０２３年１２月からInsight Edgeに参画したData Scientistのカイオと申します。 入社してから幅広い分野のAIや機械学習だけでなく、API構築やクラウドと関わり海外出張までする機会があって非常に感謝しています。 最近、LLMを使ってPP

LLMモジュールの普通ではない使い方 🔖 33

それはある日のこと ある日のこと、社内Slackに吉川部長からこんな投稿がありました。「伊達さんがXでリポストしてたアリババクラウドのオープンソースLLMって、オフラインでLLMが動く小さいモジュールなのかしら？オフラインでLLMが使える可能性があるなら試してみたい感じでは

M5Stack + Module LLM を使ってみた 🔖 3

対象者Arduino IDE / PlatformIO で M5Stack の開発をしたことがあるModule LLM をとりあえず使ってみたい、何ができるか知りたい 必要なものM5Stack CoreS3 などModule LLM写真は M5Stack

Datadog Inferred ServicesはLLM APIをお手軽に監視できて便利、という話 🔖 1

LLM API監視におけるDatadog Inferred Services活用法株式会社IVRyでAIエンジニアとして働いているMoriyaです。弊社は、電話上で動くAI自動音声サービスを提供しています。ECSで動くApplicationからLLM APIを呼び、sidec

最近のコーディングにおけるLLMの使い方QA 🔖 94

こんにちは！逆瀬川 (@gyakuse) ちゃんです今日はコーディング時に気をつけてることなどをQA形式でまとめてみました！参考になればと思います！また、こういう使い方があるよ！とかこうしたほ…

InfraNodusでDify RAGを強化する：LLMのコンテキストを拡大 🔖 4

著者：Dmitry Paranyushkin（InfraNodus創設者）検索拡張生成（RAG）は、大規模言語モデル（LLM）にDifyのナレッジベースやドキュメントから付加情報を与える効果的な…

生成AI(LLM)の基本原理とビジネス利用に関するご紹介 🔖 2

はじめにはじめまして。社内でデータサイエンティストを務めております@nttd-furukawakです。今回は、2025年3月に開催した生成AI(LLM)の基本原理とビジネス利用セミナーでご紹介さ…

みんなのためのLLMアプリケーション開発環境の構築事例 🔖 172

はじめにこんにちは。Game Platform DevのDong Hun Ryoo、Takenaka、Zhang Youlu（Michael）、Hyungjung Leeです。私たちの組織は、ゲーム...

"「生成AIこんなものか」と諦める前に" 営業AIエージェント開発現場から学ぶLLM品質保証テクニック 🔖 52

こんにちは！Algomaticネオセールスカンパニーでソフトウェアエンジニアをしている越川と申します。 1月に弊カンパニーでリリースした アポドリ はまだまだたくさんの反響を頂いております。 apodori.ai 本記事では、アポドリを開発している中で向き合ってきた、LLMのアウ

Arize Phoenix で実現する LLM observability 🔖 1

財布を気にしたくないのでローカルLLM(Gemma3)にコードを書かせてみた 🔖 186

SREチームマネージャーの藤原です。 LM Studio + Gemma 3 + Cline + VSCodeの環境を自由研究的に試用したので、その報告エントリです。 モチベーション プライベートでコードを書く際も最近はClineなどを使ってLLMを使ってコーディングをすることが

【LLMOps】あなたの生成AIアプリを監視＆評価しよう！ Langfuse入門ハンズオン 🔖 2

これは何？コミュニティ勉強会「Langfuse Night #2」で実施するハンズオンセッションの手順書です。https://connpass.com/event/345731/イベントに参加…

Microsoft Playwright MCPが切り拓くLLMとブラウザの新たな統合 🔖 123

はじめにウェブブラウザの自動操作は長い間、テスト自動化やスクレイピングの重要な分野でしたが、大規模言語モデル（LLM）の台頭により、まったく新しい可能性が開かれつつあります。マイクロソフトの最新プロジェクト「Playwright MCP（Model Context Protoc

日本語からイラスト生成プロンプトに翻訳する LLM を作った 🔖 49

TL;DR日本語から danbooru タグに翻訳する LLM を作ったLLM を使ってデータセットを合成した 成果物Danbooru tags Translator で略して Danbot です (Danbooru + Bot にもなります)。前回は Dart で

langchain/openevalsでLLM-as-a-judgeの基本を理解 🔖 4

はじめにLLMアプリケーションを本番環境にデプロイする際、従来のソフトウェアテストと同様、評価は非常に重要な役割を果たします。適切な評価を行わなければ、モデルが期待通りに動作しているかどうかを確認することができません。今回、LangChainが提供するopenevalsという

LLMにJSONやソースコードを出力させるStructured Generationの技術 🔖 241

こんにちは、イノベーションセンターの加藤です。この記事では、大規模言語モデル(LLM)にJSONやソースコードを正しく出力させるための生成手法であるStructured Generationについて紹介します。 Structured Generationとは パーサーを用いた制約

特化型llm(Doujinshi-1.8b)の開発報告書①:開発の全体像 🔖 1

はじめに沼津高専のpuwaerです。この度、R18に特化した大規模言語モデル（LLM）、Doujinshi-1.8bを開発しました。この記事では、特化型LLM(Doujinshi-1.8b)のデータセットの作成および、継続事前学習、SFTなど、特化型LLMの開発フローをプログ

Flutterでllama.cppをつかってローカルLLMを試してみる 🔖 1

日本語 LLM の安全性境界テスト 🔖 1

R&D 本部 Responsible AI チームの黒澤です。Responsible AI チームでは、チーム名にある通り「責任のある AI」を目指し、特に大規模言語モデル (LLM) の倫理観や安全性を向上させるための取り組みを行なっています。 本記事では、言語処理学会

RMSNorm が主要な LLM で標準的に採用されているのはなぜか？ 🔖 1

現在主流の多くのLLMでは LayerNorm のかわりに RMSNorm [10]が採用されています。ただ、大規模なパラメータの LLM ではむしろ MLP や Attention など GEMM 演算が占める割合が大部分を占めるので、Normalization の改善で全体的

LLMにFactorioを遊ばせてみた 🔖 5

皆さんFactorioをご存知でしょうか？宇宙飛行の途中に未知の惑星に不時着してしまったエンジニアが、脱出用ロケットを完成させることをゴールとして石炭・鉄・銅といった資源を採掘して様々な設備・素材を生産しながら自動化工場を構築・拡張していくゲームなのですが、ベルトコンベアを使っ

C#から生成AI（LLM）を使おう。 🔖 1

シナプスの技術部システム開発課の小園です。 生成AIの大規模言語モデル（LLM）といえば、Pythonのイメージが強いのですが、シナプスでは開発メイン言語としてC#を採用しており、そのC#からLLMをAPIで使える環境が出てきたので使ってみました。 とはいえ、Pythonの方がや

LLMで商品推薦をしてみたい 🔖 2

背景: LLM を商品推薦に応用できないだろうか？自社のECサイトに、Item 2 Item, User 2 Item的な商品推薦を実装したい従来推薦システムの構築には膨大な行動データが必要だった。しかし、自前で膨大な行動データを持っていなくとも、LLM の膨大な訓練データ

Gemini API / LangGraph / Agent Engine で LLM Agent を実装する 🔖 11

はじめに下記の記事では、Gemini API の Function Calling を利用して、外部ツールと連携した LLM Agent を実装する方法を解説しました。Gemini API の Function Calling 機能で LLM Agent を実装するそこ

LM Studio を使ってローカルでLLMを実行する方法 🔖 61

こんにちは、Insight Edgeでリードデータサイエンティストを務めているヒメネス（Jiménez）です！前回の投稿から丸1年経ちましたが、改めて皆さんと知識共有できればと思います。今回は、話題のOpen Source LLM（Llama, Mistral, DeepSeek