ホーム / 安全性・モデレーション・検証

安全性・モデレーション・検証

14 件

このページは英語版リストから生成しています。

こんなときに役立ちます: プレイグラウンドとデモ

4

human-compiler

テキストを貼り付けると診断が返る、散文のためのコンパイラのようなものです。

★ 1TypeScriptWeb アプリ
プレイグラウンドとデモモデレーションと安全性

riff

文章向けの Ruff 風のルールコードです。

★ 7PythonCLI
プレイグラウンドとデモ

jev-audio-beeper

低遅延の音声検閲の概念実証で、Jev の型付き判断が ffmpeg を駆動します。

★ 2TypeScriptCLI
プレイグラウンドとデモモデレーションと安全性

Fake / Real

英語とルーマニア語のファクトチェックサイトで、引用された抜粋に照らして主張を Jev で検証します。統合例は公開、完全なアプリはクローズドソース。

★ 1JavaScriptWeb アプリ
プレイグラウンドとデモモデレーションと安全性

こんなときに役立ちます: モデレーションと安全性

3

Jev-Moderation-Bot

編集可能なルールによるチャットのモデレーションです。

★ 50Pythonその他
モデレーションと安全性分類と抽出

SkillCheck

エージェントのスキルを導入する前にその本文を Jev に送り、カテゴリごとのスコアつきの判定を返します。スキルをエージェントのコンテキストに読み込むことはありません。送信するテキストの秘密情報は伏せられません。

★ 0JavaScriptCLI
モデレーションと安全性出力の検証

StopSpam

較正された確信度つきの分類に基づいて、グループチャットからスパムと詐欺のメッセージを削除する Telegram のボットです。

★ 0JavaScriptその他
モデレーションと安全性

こんなときに役立ちます: 出力の検証

3

citation-verifier

引用された論文は、それを引用している文を裏付けているでしょうか。Claude が該当箇所を見つけ、Jev が採点し、人間が判断します。

★ 12JavaScriptWeb アプリ
出力の検証プレイグラウンドとデモ

snifftest

AI 的な書き癖を検出する散文リンターで、数えられるルールと 1 つの判断モデルを組み合わせます。

★ 36TypeScriptフックやプラグイン
出力の検証

tripwire

すべての LLM レスポンスをユーザーが見る前に 7 つの Jev のチェックにかける AI SDK のミドルウェアとプロキシで、精度の数値はまだなく、その旨も明示しています。

★ 3TypeScriptプロキシやサービス
出力の検証モデレーションと安全性

こんなときに役立ちます: ツール呼び出しのゲート

2

jev-shield

すべてのツール呼び出し、結果、説明を検査する意味的な MCP ファイアウォールで、1 回の検査あたり約 $0.00002 でブロック再現率 94 パーセントを報告しています。

★ 3JavaScriptプロキシやサービス
ツール呼び出しのゲートモデレーションと安全性

jev-guard

Claude Code、Codex、Cursor、Gemini CLI、Pi、OpenCode 向けの自動モードで、各ツール呼び出しを deny、ask、allow としてリスク採点し、結果に含まれるプロンプトインジェクションを検出します。

★ 144JavaScriptフックやプラグイン
ツール呼び出しのゲートモデレーションと安全性

こんなときに役立ちます: ベンチマークと評価

1

jev-secret-detection

ファイルのスニペットから本物の資格情報をどれだけ見つけられるかを測定し、設定ファイル風の難しいケースは別に採点します。

★ 2Pythonデータセットやベンチマーク
ベンチマークと評価出力の検証

こんなときに役立ちます: コマンドラインツール

1

is-malicious

実行する前にコードベースを走査して隠れた挙動やデータを盗む挙動を探し、問題なしという報告が証明にはならないことも明示しています。

★ 39TypeScriptCLI
コマンドラインツールコードレビュー