AIスパム対策

望まれていない一斉送信メッセージを、送信の速さではなくその内容から、あらゆる言語で検出します。

概要

レート制限はメッセージの洪水を捉えます。しかし会話と同じ速さで一度だけ届き、それでもスパムであるメッセージは捉えられません。頼んでもいない勧誘、コピーして貼り付けた宣伝、今週十数個のサーバーに届いた同じ定型文です。AIスパム対策は何通届いたかを数える代わりにメッセージが何を述べているかを読むため、そのメッセージが見えます。広告対策と同じ解析を用いますが、スイッチは別です。広告を取り締まりたいことと、これを取り締まりたいことは、別々の判断だからです。

仕組み

まず読み、それから判断する

メッセージ本文、添付された画像、実際の遷移先まで辿ったリンク、そしてそのチャンネル自身の最近の会話をまとめて読みます。判定はメッセージ内の具体的な証拠のみに基づき、メンバーが新しい、あるいは見慣れないという理由では決して下されません。

言語に依存しない

多言語モデルがメッセージを共通の空間に配置するため、タイ語・トルコ語・ロシア語で書かれた同じ勧誘が、英語で既に学習された定型文と一致します。ここにキーワードの一覧表はありません。

あなたのモデレーターから学ぶ

チームが取り消したブロックは記憶されます。Sylon はそのメッセージとそれに近いものをあなたのサーバーで以後照合しなくなり、逆に実際に捉えたほぼ同一のスパムは次回に向けてパターンを強化します。

主な機能

メッセージの頻度に依存しない、内容に基づく検出

単語を空白で区切らない文字体系を含め、あらゆる言語で機能

画像内の文字を読み取り、短縮リンクを展開

独自の処罰・しきい値・ログチャンネル

モデレーターの取り消しが、あなたのサーバー向けに検出器を訓練

除外するロール・メンバー・チャンネル

セットアップ

1.ダッシュボードを開き、AIスパム対策のタブに移動して有効にします。

2.処罰が適用されるまでにメンバーが累積できる検出回数を選びます。

3.処罰を選び（タイムアウトが最も安全な出発点です）、その長さを設定します。

4.ログチャンネルを設定し、正当に宣伝的な内容を投稿するロール・メンバー・チャンネルを除外します。

詳しい動作

内容と頻度が別の問いである理由

3秒で5通を投稿する人は、カウンターに見えることをしています。アカウントを売りますという一通を投稿する人は、読む者にしか見えないことをしています。カウンターは Sylon に元からありました。これは読む者であり、両者を分けるということは、片方だけを選べるということです。

疑いではなく証拠

判定にはメッセージ内の具体的な何かが必要です。外部リンク、他サーバーへの招待、QRコード、画像から読み取った宣伝文、あるいは見分けのつく勧誘の型です。新しいアカウント、低い信頼スコア、見慣れない名前は、それ自体では決して証拠にならず、Sylon はそれだけで行動することを拒みます。

何が本題から外れているかはチャンネルが決める

Sylon はメッセージがその場に合うかを判断する前に、そのチャンネルが何のための場所で、メンバーが実際に何を話しているかを読みます。人々が公然と相手を探している部屋は、誰かを探すことが本題である部屋です。その名前がどの言語で書かれていようと関係ありません。

すべての判断は取り消せる

ブロックは理由・確信度・その根拠となった証拠とともに記録されます。モデレーターはワンクリックで取り消せ、その取り消しは Sylon が持つ最も強い信号です。以後、その内容をあなたのサーバーで照合しなくなります。

設定

処罰までの違反回数処罰が適用されるまでにメンバーが累積できる検出回数。

罰制限に達したときにユーザーに対して実行されるアクション。タイムアウトで一時的に制限、キックでサーバーから削除、禁止で永久禁止。

タイムアウト時間 (分)スパム行為が見つかったときにユーザーがタイムアウトになるまでの時間。 [タイムアウト] が選択されている場合にのみ適用されます。

ログチャンネルボットがこの機能のログメッセージを送信するチャネル。

ボットにも適用する既定ではオフで、ボットのメッセージは完全に無視されます。荒らしがボット経由で行われている場合にオンにしてください。人間しか数えないスパム対策を回避する常套手段です。Sylon が自分自身を処分することはなく、除外ロール・除外ユーザーに入れたボットは引き続き除外されます。なお、ここでは管理者権限は人と違ってボットを除外しません。信頼するボットは除外リストに追加してください。

除外ロールこれらのロールのいずれかを持つメンバーは、この保護から免除されます。

除外メンバー除外ロールに加えて、このシステムが完全に無視する特定のメンバー。

除外チャンネルこれらのチャネルのメッセージは、この保護によってチェックされません。

知っておきたいこと

Sylon には削除のための「メッセージの管理」と、選んだ処罰に応じて「メンバーをタイムアウト」「メンバーをキック」「メンバーをBAN」の権限が必要です。

広告対策と解析を共有するため、両方を有効にしても追加の処理コストはかかりません。

除外されたロール・メンバー・チャンネルは何かを解析する前に確認されるため、除外された通信は一切judgeされません。

よくある質問

スパム対策と何が違いますか？

スパム対策はレート制限です。何秒間に何通、という規則で、単語を読むことはありません。AIスパム対策はメッセージを読み、たった一通でも指摘できます。両方を有効にするのが一般的ですが、片方だけにするのも妥当な選択です。

広告対策も有効にする必要がありますか？

いいえ。意図的に別のスイッチです。広告対策は宣伝・詐欺・勧誘を扱い、こちらは望まれない一斉送信の内容を扱います。片方を有効にしても、もう片方が有効になることはありません。

判断を誤った場合は？

すべてのブロックには取り消しボタンと誤検出の報告が付いています。取り消せばメンバーは元に戻り、Sylon はあなたのサーバーでその判断を繰り返さないよう学びます。結果を見極めている間は、BAN ではなくタイムアウトから始めるのが安全な設定です。