人気のライティングアシスタントプラットフォーム、Grammarlyは水曜日、オンライン上の反発と批判を受けて、エキスパートレビューAI機能を無効にしたと発表しました。このツールは、ユーザーの文章を分析し、学者やジャーナリスト、その他の専門家の視点からフィードバックを生成していました。親会社のSuperhumanは、水曜日に方針を変更すると述べました。
「この1週間、私たちは、エージェントが彼らの声を誤って表現していると懸念する専門家から妥当な批判的意見を受け取りました」と、SuperhumanのCEOシシル・メフロトラはLinkedInに書きました。「このような監視は私たちの製品を改善し、私たちは真剣に受け止めています。」
Grammarlyは昨夏、AI生産性エージェントへの拡張の一環としてエキスパートレビュー機能を開始しました。このツールは、ユーザーが専門家を選び、その人の作品をモデルにしたAI生成のフィードバックを受け取ることができます。しかし、AIが実在の人物、特に亡くなった学者を含む人物を参照していることが判明すると、学者やジャーナリストから迅速に批判が殺到しました。
批判を受けて、Superhumanはエキスパートレビュー機能を無効にし、専門家が自分の表現をコントロールできるように再設計すると発表しました。変更前は、専門家が自らオプトアウトしなければ含まれる仕組みでしたが、批評家からは受け入れられないと指摘されていました。
「私は弁護士ではありませんが、『あなたのものを盗み続けるつもりです、あなたが望まないと言ったらやめる』というのは、少なくとも一般の意見の場では、Grammarlyが考えるような弁護にはなりません」と、元The Vergeのクリエイティブディレクター、ジェームズ・ベアハムはBlueskyに投稿しました。「この会社が訴えられて潰れることを願っています。私は今日、Proアカウントをキャンセルしました。」
また、作家・編集者のベンジャミン・ドレイヤーも、エキスパートレビューのオプトアウトポリシーを揶揄する投稿をしました。
「私は最終的に、彼らの寛大なオプトアウトの申し出を利用するかもしれません、ああ、ありがとう、ありがとう。でもその間に、もし私が企業の詐欺師に少しでもストレスを与えられるなら、それは私の努力が無駄ではなかったと感じられるでしょう」とドレイヤーは書きました。
Grammarlyのエージェント担当プロダクトマネージャー、アイリアン・ガンは、_Decrypt_に対して、「この機能は『的を外していた』とのフィードバックを受けて無効にしました」と述べました。
「AIの最先端で革新を続ける中で、私たちにとって重要なのは、人々がテクノロジーに対して主体性を持ち、それを自分のニーズに合わせて形作れるように支援する最良の方法を模索し続けることです」とガンは書きました。「皆さんの責任追及に感謝します。次回は正しく改善し、どのように進歩しているかを透明にお伝えします。」
