【Mac Info】 MacでローカルLLMが動く！「LM Studio」で大規模言語モデルを使ってみよう 🔖 83

LLMガードレールの活用法と役割を正しく理解する - GMO Flatt Security Blog 🔖 162

TL;DR LLMガードレールはLLMの入出力を監視・制御する技術であり、LLMアプリケーションにおける様々な脅威への対抗策になります。しかし、あくまで役割は脅威の緩和・低減であるため、それぞれの脅威に対する根本的な対策をした上で、万が一の事故に備え文字通りガードレールとして導入

LLMガードレールの活用法と役割を正しく理解する 🔖 162

TL;DR LLMガードレールはLLMの入出力を監視・制御する技術であり、LLMアプリケーションにおける様々な脅威への対抗策になります。しかし、あくまで役割は脅威の緩和・低減であるため、それぞれの脅威に対する根本的な対策をした上で、万が一の事故に備え文字通りガードレールとして導入

vLLMのSpeculative Decodingによる推論高速化を試す 🔖 4

はじめにこの記事では、Speculative DecodingによるLLMの推論高速化をvLLMで試し、簡単なベンチマークを行った結果を共有します。 Speculative Decodingについて最初に、Speculative Decodingについて簡単に解説します。

LLMと感覚性失語症、情報処理に類似性　東大が明らかに 🔖 55

東京大学などの研究チームは5月15日、大規模言語モデル（LLM）と、感覚性失語症当事者の脳の情報処理が似ているとの研究成果を発表した。数理解析により、両者の情報処理のパターンを分析。類似性を明らかにしたという。 LLMではしばしば、誤っている情報をもっともらしく出力する「ハルシネ

AI破産を防ぐために - LLM API利用におけるEconomic DoSのリスクと対策 - GMO Flatt Security Blog 🔖 53

はじめに こんにちは、GMO Flatt Security株式会社セキュリティエンジニアの松井（@ryotaromosao）です。 近年、LLM（大規模言語モデル）が目覚ましい進化を遂げており、それを利用したLLMアプリケーションが急速に増加しています。特に、AIチャット機能やエ

AI破産を防ぐために - LLM API利用におけるEconomic DoSのリスクと対策 🔖 53

はじめに こんにちは、GMO Flatt Security株式会社セキュリティエンジニアの松井（@ryotaromosao）です。 近年、LLM（大規模言語モデル）が目覚ましい進化を遂げており、それを利用したLLMアプリケーションが急速に増加しています。特に、AIチャット機能やエ

手軽に最新LLM！OllamaとQwen3でローカルAI環境を構築する方法 🔖 36

こんにちわ、kaitoです。最近、AIの世界がまた一段と面白くなってきたよな。特に、ローカル環境でサクッと大規模言語モデル（LLM）を動かせるツールが出てきてから、俺たちの開発スタイルも変わりつつあ…

LLMが説得力で人間超え、相手に合わせて議論を調整 🔖 88

GPT-4などの大規模言語モデル（LLM）が対話相手の個人情報を活用した場合、議論の場で人間よりも64%高い説得力を持つことが研究で分かった。偽情報拡散の新たなリスクとなる一方、教育目的など肯定的な活用の可能性も示している。 by Rhiannon Williams2025.05

🛡️ AutoPentest：LLMで自動化する脆弱性管理 🔖 20

こんにちは！やきとりです。 今回は、「大規模言語モデル（LLM）を使って、ペネトレーションテスト（侵入テスト）を自動化し、脆弱性管理を効率化する」という論文を紹介します。 元論文情報 タイトル：AutoPentest: Enhancing Vulnerability Manage

LLM のセキュリティ問題って？ 🔖 1

LLMを使ってファイル間の矛盾を指摘するCLIツール - hitode909の日記 🔖 50

LLMの使い方で、よく使っているのが、人間が制作したものをAIに簡単にチェックしてもらう、ということ。 以前作った、ブログを批評してくれるイルカは毎日常用している。 1つの文章を見てもらうだけでなく、2つの文章間に齟齬や、矛盾がないか見てもらう、ということも、たびたびやっている。

ObsidianとLLMでPodcast情報を整理する方法 🔖 15

Obsidianで情報整理色々調べたり試したりして、使い道がWeb Clipperとしてしか使えてなかったObsidianですが、ようやくObsidianらしい活用ができた気がするのでメモしておきます。具体的にはPodcastの情報整理です。対象のPodcast番組は、COT

小型LLM「ABEJA Qwen2.5-7B Model」学習のための蒸留のパイプライン並列化 🔖 3

はじめに こんにちは、Labsチームの藤本です。 弊社は、経済産業省とNEDOが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の1期に続き、2期にも採択され、そこで大規模言語モ

LLM Agent 標準化/MCP/ライブラリ欲張り幕内弁当 🔖 37

Agent 元年の慌ただしい始まり 2025 年は Agent 元年と呼ばれ、その直前の年の瀬から各メジャープロバイダーから Agent 開発に関する標準化やライブラリの発表が相次いだ。その中でも以下の 3 つは注目を集めた。 2024.11.25: MCP by Anthrop

LLMの推論における “aha moment” について調べてみた 🔖 2

LLM Agent 標準化/MCP/ライブラリ欲張り幕内弁当 🔖 37

Agent 元年の慌ただしい始まり2025 年は Agent 元年と呼ばれ、その直前の年の瀬から各メジャープロバイダーから Agent 開発に関する標準化やライブラリの発表が相次いだ。その中でも以下の 3 つは注目を集めた。2024.11.25: MCP by Anthro

CPUが得意なことをCPUにまかせて少ないVRAMでも大きめのLLMを速く動かす - きしだのHatena 🔖 137

Redditに「VRAM足りないとき一部のレイヤーをCPUに任せるんではなく、レイヤー全部をGPUに載せてレイヤー内部のFFNだけCPUに持っていったら速くなった、なんでこれが標準じゃないんだ」というのがあったので、おうちのRTX 4060 Ti 16GBで試してみたら微妙に速く

MCPやAIエージェントに必須の「LLMの外部通信・連携」におけるセキュリティ観点 🔖 187

はじめに こんにちは。GMO Flatt Security株式会社 セキュリティエンジニアの山川(@dai_shopper3)です。 LLMはテキスト生成、要約、質問応答といった多様な用途に高い能力を発揮しますが、単体での活用にはいくつかの制約があります。そもそもモデル単体には、

なぜ技術記事のLLM生成は問題になり得るのか 🔖 8

文脈zenncafeというイベントで先日登壇させていただきました(宣伝)https://speakerdeck.com/watany/put-a-price-on-coding-agentイベントのメインコンテンツとして「生成AI時代のテックブログプラットフォームの在り方(

直感 LLM 🔖 193

急速に進化する大規模言語モデル（LLM）を、視覚的に理解しながら実践的に学べるハンズオンガイド。本書では、Jupyter Notebookやクラウド上で実際にモデルを動かしながら学ぶことができます。大規模言語モデルに欠かせないTransformerの仕組みをはじめ、要約、セマンテ

DTP は MCP の夢を見るか？ LLM で Illustrator の作業効率化を試みる 🔖 49

生成 AI 全盛期の昨今ですが、Adobe Illustrator や InDesign 等のソフトウェアにて行われる DTP は一歩取り残されている感が否めません。本記事では、 Illustrator 用の MCP サーバを実装して、LLM を介した Illustrator の

データの上にMCP Serverを構築してその上にLLMを乗っける 🔖 9

はじめに現状、MVC(Model-View-Controller)に基づいたWebサービスやクラサバアプリが台頭している状況です。昨今、LLMの台頭やMCPといった標準化が進み、これまでのゴリゴリしたUIベースのサービスから、チャットベースや音声会話ベースのサービスに転換する可

DTP は MCP の夢を見るか？ LLM で Illustrator の作業効率化を試みる 🔖 49

生成 AI 全盛期の昨今ですが、Adobe Illustrator や InDesign 等のソフトウェアにて行われる DTP は一歩取り残されている感が否めません。本記事では、 Illustrator 用の MCP サーバを実装して、LLM を介した Illustrator の

LLMで活用するためのMarkdownをあらゆるコンテンツから変換して一箇所に集める方法 🔖 212

マークダウンを一箇所に集める LLMとMarkdownの相性が良いという話は、最近多くの人が話題にしたり感じていることかと思います。 おそらく、そのうちあらゆるデータを直接LLMに手軽に安く入力できるようになるとは思いますが、それにはしばらく時間がかかるのも確かだと思います。なの

LLMで活用するためのMarkdownをあらゆるコンテンツから変換して一箇所に集める方法 🔖 212

マークダウンを一箇所に集めるLLMとMarkdownの相性が良いという話は、最近多くの人が話題にしたり感じていることかと思います。おそらく、そのうちあらゆるデータを直接LLMに手軽に安く入力できるようになるとは思いますが、それにはしばらく時間がかかるのも確かだと思います。なの

LLMでJSON出力する際に気をつけていること3選 - Algomatic Tech Blog 🔖 36

はじめに こんにちは、Algomatic ネオセールスカンパニーで営業 AI エージェント 「アポドリ」 を開発している 末國 です。 apodori.ai LLMを組み込んだアプリケーション開発において、JSON出力のコントロールは時に困難を伴う課題かと思います。特に複雑な処理

面談データが語るサービス改善の新潮流：LLMとクラスター分析で見えてきた転職支援の傾向 🔖 6

はじめに こんにちは！レバレジーズデータ戦略室、データサイエンティストのJacobです。 今回は、弊社の転職支援サービスの改善のための面談分析について書きたいと思います。数多くの求職者のサポートに励んでいる弊社のキャリアアドバイザー（CA）のハイパフォーマーにはどのような特徴があ

LLMでJSON出力する際に気をつけていること3選 🔖 36

はじめに こんにちは、Algomatic ネオセールスカンパニーで営業 AI エージェント 「アポドリ」 を開発している 末國 です。 apodori.ai LLMを組み込んだアプリケーション開発において、JSON出力のコントロールは時に困難を伴う課題かと思います。特に複雑な処理

ローカルLLM Qwen 3 x MCPを使った業務改善の可能性 🔖 1

こんにちは、ウォンテッドリーでデータサイエンティストをしている林 (@python_walker) です。ウォンテ...

作りながら学ぶLLM入門：前処理 🔖 178

概要 この記事の対象者：LLMの内部処理をコードレベルで具体的に理解し、自分で簡易的なモデルを動かしてみたいエンジニアや研究者。 この記事の内容：Raschka著『作りながら学ぶLLM入門』第2章をベースに、トークン化からサブワード分割、特殊トークン付与、データローダー作成、埋め

【Go言語をLLMで読むVSCode拡張を作りました】K8sのソースコードをLLMで爆速で読もう！ハンズオン 🔖 40

tldr; １： LLMにGo言語のコードを読ませるVS Code 拡張機能 Repilot を作りました ２： CNCFのGo言語プロジェクト（Kubernetes, argo-cdなど）で、関数を見つけ出すことで挫折をする事は無くなった。ので、今回k8sのコード（kubect

LLMでMT4のEAが作れた 🔖 2

!【重要】本記事および紹介するEA（Expert Advisor）について本記事で解説するMetaTrader 4 (MT4) 用のEA（Expert Advisor）「EURUSD_Surge_EA」は、あくまで技術的な探求、教育、および研究目的で作成・分析されたものです。

LLMでコードレビューする際の自分用環境を整える 🔖 261

LLMでコードレビューといえばCodeRabbitのようなサービスがすでに存在していたり、 自前でコードレビュー用のGitHub Actionsを作成している事例なども散見されるようになった。 さらに最近はGitHub Copilotのbotがレビュアーとして参加してくれる機能も

作りながら学ぶLLM入門：前処理 🔖 178

概要この記事の対象者：LLMの内部処理をコードレベルで具体的に理解し、自分で簡易的なモデルを動かしてみたいエンジニアや研究者。この記事の内容：Raschka著『作りながら学ぶLLM入門』第2章をベースに、トークン化からサブワード分割、特殊トークン付与、データローダー作成、埋

作りながら学ぶLLM入門：前処理 🔖 178

概要この記事の対象者：LLMの内部処理をコードレベルで具体的に理解し、自分で簡易的なモデルを動かしてみたいエンジニアや研究者。この記事の内容：Raschka著『作りながら学ぶLLM入門』第2章をベースに、トークン化からサブワード分割、特殊トークン付与、データローダー作成、埋

LLMでコードレビューする際の自分用環境を整える 🔖 261

LLMでコードレビューといえばCodeRabbitのようなサービスがすでに存在していたり、https://www.coderabbit.ai/自前でコードレビュー用のGitHub Actionsを作成している事例なども散見されるようになった。https://engineer

中古GPU（RTX 3060/12GB）でローカルLLM検証-2 ～ llama.cpp で TinyLlama 1.1B を試す 🔖 1

前回は、Docker コンテナでGPUが使えるところまで設定出来ましたので、今回は、コンテナでローカルLLMを試していきます。[前回記事] 中古GPU（RTX 3060/12GB）でローカルLLM…

【R&D】 X人月を削減せよ ーLLMで業務ワークフローを自動生成するー 🔖 54

大規模言語モデル（LLM）を活用したワークフローエンジン「Ai Workforce」をさらに効率的に活用するため、ドキュメント処理のワークフローを自動的に設計・生成するR&Dプロジェクト「ワークフロー自動生成」を紹介します。実業務では多種多様なドキュメントを扱います。各種

プロンプトのデプロイ後の品質管理：LLM運用を便利にするLangfuseのトレース機能 🔖 2

LLMの出力結果を本番デプロイした後に把握できてますか？LLMを使うと、さまざまなタスクで60点から70点程度の出力をシュッと出力してくれます。しかし、アプリケーションで実施するタスクのテストデータを十分に用意できず、あまり良くないと分かっていながらも、やむを得ず手元で試行錯

LLMはリネームが苦手？MCP+ts-morphで補えるかも？ 🔖 1

私がメインで担当しているプロジェクトでは、コンポーネントや関数の命名規則、ファイル構成に一貫性がなく、恥ずかしながらリファクタリングが追いついていない状態にあります。作った時期やメンバーによっても違いがあり、スクリプトによるリファクタリングも難しい状態にあります。このような無

米軍で導入進む「戦場のLLM」、未解決の3つの課題とは？ 🔖 14

米軍が軍事情報の分析に大規模言語モデルの導入を進めている。これまでも映像分析などにAIを活用してきたが、今後は重大な意思決定に利用することになるだろう。 by James O'Donnell2025.04.26 1 この記事の3つのポイント 米軍は監視や意思決定支援のためAIの導

Reasoning能力を付与したLLM ABEJA-QwQ32b-Reasoning-Japanese-v1.0の公開 - ABEJA Tech Blog 🔖 24

ABEJAでデータサイエンティストをしている服部です。 弊社は、経済産業省とＮＥＤＯが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の1期に続き、2期にも採択され、そこで大規模

エージェントは魔法じゃない：LLM時代の“不確実性”を武器に変える設計術 🔖 23

CursorやClineなどのコーディングエージェントは使っている MCPサーバーも導入したことがある OpenAIなどのLLMをAPI呼び出しを通して使ったこともある といった状況の方が、「でも自分でエージェントを実装するってなると、いまいちピンと来ないんだよな・・・」と思って

Reasoning能力を付与したLLM ABEJA-QwQ32b-Reasoning-Japanese-v1.0の公開 🔖 24

ABEJAでデータサイエンティストをしている服部です。 弊社は、経済産業省とＮＥＤＯが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の1期に続き、2期にも採択され、そこで大規模

LLMの追加学習なしで決められた長さ以上のテキストを生成可能な技術を開発～独自の位置符号化機構によりLLMの学習コストの削減に貢献～ | ニュースリリース | NTT 🔖 30

◆多くのLLMで採用されている位置符号化※1であるRotary Position Embedding（RoPE）※2がウェーブレット変換※3の一種であることを解明し、ウェーブレット変換が位置符号化に有効である可能性を示しました。 ◆ウェーブレット変換を応用した独自の位置符号化を開

LLM / 生成AIを活用するアプリケーション開発におけるセキュリティリスクと対策 🔖 59

はじめに こんにちは、GMO Flatt Security株式会社セキュリティエンジニアの佐藤(@Nick_nick310)です。 近年、大規模言語モデル(LLM、 Large Language Models)の進化と普及は目覚ましく、多くのサービスや業務プロセスで生成AIとして

エージェントは魔法じゃない：LLM時代の“不確実性”を武器に変える設計術 🔖 23

CursorやClineなどのコーディングエージェントは使っているMCPサーバーも導入したことがあるOpenAIなどのLLMをAPI呼び出しを通して使ったこともあるといった状況の方が、「でも自分でエージェントを実装するってなると、いまいちピンと来ないんだよな・・・」と思っ

LLMの検証を加速するトレースツール：Langfuseのご紹介 🔖 2

はじめに株式会社Rehab for JAPAN でMLOpsエンジニアをしている松本です。LLMアプリケーションの開発と運用において、パフォーマンスの監視と分析は重要な課題です。今回は、LLM監視プラットフォーム「Langfuse」に焦点を当て、その機能と魅力をご紹介します

LLM・AIエージェントの先駆者が集結！Siri創業者登壇「AI Engineering Summit」 🔖 24

「LLM・AIエージェントの活用と開発の最前線」をテーマに、先進企業の取り組みや最新の技術トレンドを紹介します。実際の事例を通じて、各社の課題解決のヒントを得るとともに、LLM・AIを活用するための戦略を考える場を提供します。