自然言語処理
コンピュータが人間の言語を理解し、生成する技術。
記事一覧
6 記事
壁が無くなる時代へ：30ヶ国語ブログサイト作成
2025年8月24日
この記事は、著者がGeminiなどの生成AIを活用して構築した30ヶ国語対応のブログサイト「katoshiの研究ノート」https://katoshi-mfacet.github.io/ の開発経緯と仕組み、そして生成AIがもたらす情報発信における壁の消失について述べています。 サイトはAstroフレームワークを用いた自作プログラムで構築されており、ブログ記事の原稿からHTMLを自動生成します。...
学習の学習：生まれながらの知性
2025年8月13日
この記事では、人工知能の学習メカニズムの本質を探ることで、知性の起源に迫る試みがなされています。著者は、学習を大きく「形而下の学習」（反復的な学習）と「形而上の学習」（少ない試行回数で学習できる、または既存知識の応用による学習）に分類し、その界面に「自然言語」や身体的知覚に基づくフレームワークが存在すると主張します。 具体的には、大規模言語モデル（LLM）を例に、事前学習やファインチューニングに...
自然言語機械学習
2025年8月8日
従来の機械学習は数値データと数値計算に基づくが、人間は言葉による学習も得意とする。大規模言語モデル(LLM)は、言葉で知識を記述・活用できる自然言語プロセッサであり、自然言語機械学習という新たな分野を切り開いた。この自然言語機械学習は、事前学習済みのLLMのパラメータを固定したまま、ナレッジベースに学習結果を蓄積することで実現する。基本モデルは、教師あり学習による分類問題を例に説明できる。例えば、...
ブログ記事のプレゼン動画自動生成
2025年8月6日
この記事では、ブログ記事からプレゼン動画を自動生成するシステムの開発について詳述している。著者は、生成AIを活用し、ブログ記事の内容を基にプレゼン資料(SVG形式)を作成、ナレーション原稿を生成、音声データ化、そして最終的に動画(mp4形式)を生成する一連の自動化パイプラインを構築した。 システムの核心は、プレゼン資料の自動生成にある。生成AIは画像生成に長けているものの、文字や図形中心のプレゼ...
マイクロ仮想知能としてのアテンションメカニズム
2025年8月6日
この記事は、生成AIにおけるアテンションメカニズムの重要性と、それを発展させた独自の概念である「仮想知能」と「明示的アテンションメカニズム」を提案している。 まず、著者はトランスフォーマーの成功をアテンションメカニズムに帰結させ、その概要を説明する。アテンションメカニズムは、自然言語処理において、大量の単語から処理対象の単語に関連性の高い単語を選択的に処理することで、文脈理解の精度を高める仕組み...
仮想知能のオーケストレーション
2025年7月30日
この記事では、仮想マシン技術になぞらえて、単一の人工知能モデル内で複数の仮想的な知能（仮想知能）を協調動作させる「知能オーケストレーション」という概念を提案しています。仮想マシン技術が複数の仮想コンピュータを1台の物理マシン上で動作させるように、知能オーケストレーションは、単一の人工知能モデル内で、異なる役割や機能を持つ複数の仮想知能をプロンプトによって制御し、複雑な知的作業を遂行させます。 従...