#生成AI #カラクリ #KARAKURI

日本市場に特化した生成AIの新たな一歩

カラクリ株式会社が発表した「KARAKURI Guardrails」は、特に日本語にフォーカスした生成AIの安全管理システムです。この新たなものは、ユーザーとのインタラクションにおいて発生する可能性のあるリスクを軽減し、生成AIを驚くほど安全に利用できる環境を整えています。主に、ユーザー生成コンテンツの安全性を高めることを目的として開発されたこのシステムは、日本の独自の言語的特性と文化的背景をしっかりと反映した機能を備えています。

開発の背景

生成AIの商用利用が拡大する中で、その安全性がますます重要な課題となっています。特に、OpenAI社が初期のガードレール対策を導入したことは、業界全体に大きな影響を与えました。2022年11月には、不適切なコンテンツを制限する初期の機能が実装され、多くの企業がこの流れに続いて自社のAI安全対策を強化しています。しかし、欧米の基準が日本独特の状況に最適化されていないため、日本市場に特化した対応が求められていました。カラクリは、国産の大規模言語モデル「KARAKURI LM」で得た知見を基にし、言語や文化の違いを考慮したセキュリティ基準の確立へと踏み出しました。

KARAKURI Guardrailsの特長

1. 高度な検知機能
KARAKURI Guardrailsでは、次のような高機能を数多く搭載しています。

• - ハルシネーションリスクの検知: AIが作成した情報が事実と異なる場合を検出。
• - 文脈逸脱の検知: 会話の目的から外れた応答を特定。
• - 攻撃的行為の検知: 悪意ある入力や攻撃パターンを見つけ出します。
• - 個人情報の検知: 機密データの取り扱いを適切に行います。
• - 禁止ワードの検知: 法的基準に基づく不適切な用語を識別します。

これらの機能により、ユーザーとのコミュニケーションをより安全かつ効果的に行えるよう設計されています。

AWS re:Invent 2024での発表

KARAKURI Guardrailsは、2024年12月2日から6日に開催されるAWSの年次フラッグシップカンファレンス「AWS re:Invent 2024」の中で、ソニー株式会社より紹介される予定です。これにより、日本の生成AI技術の優位性が国際的に認知される機会となるでしょう。

カラクリとは？

カラクリ株式会社は、「FriendlyTechnology」をビジョンに掲げ、日本市場に特化した大規模言語モデル（LLM）の開発を進めています。顧客サポート向けAIシリーズは、高級百貨店の高島屋、SBI証券、セブン-イレブン・ジャパンなど数多くの大手企業に採用されています。

会社概要

• - 住所: 東京都中央区築地2-7-3 Camel 築地 II 5F
• - 設立: 2016年10月3日
• - 代表者: CEO 小田 志門
• - 事業: AIカスタマーサポートシリーズの開発・提供・運営

公式ウェブサイト: カラクリ株式会社

これからもカラクリは、より安全で効率的なAIの進化を推進していきます。

関連リンク

サードペディア百科事典: 生成AI カラクリ KARAKURI