2024年11月11日に開催された特別セミナーのアーカイブ動画です。
イベントページ：https://www.tc.u-tokyo.ac.jp/ai1ec_event/13327/
資料もウェブサイトからダウンロードできます。
本プロジェクトにご関心のある方は、アンケートへのご回答もお願いします。
https://forms.gle/WpkMWbGjNdoFhJeC8
【動画の内容と再生タイム】
0:00:00～0:06:10
開会挨拶と趣旨説明：江間有沙（東京大学東京カレッジ / JDLA）
0:06:20～0:24:20
LLMの安全性に向けた取り組み：関根聡（NII-LLMC/理研AIP）
0:24:50～0:39:05
CTFチャレンジの概要説明と今後について：築地テレサ（JDLA）
0:39:10～0:45:35
日本チームとしての今後の取組について：江間有沙（東京大学東京カレッジ / JDLA）
0:45:40～1:02:11
コメントと質疑応答
【開催趣旨】
生成AIの利用が世界的に広まるにつれ、AIモデルが地域ごとの文化や言語におけるリスクや懸念を敏感に反映できることがますます重要になっています。
現在のAIの安全性に関するレッドチーミングは、欧米中心であり、地域的な被害（モデルが特定の民族を差別するリスクなど）に対処する方法を考える必要があります。
このような問題意識のもと2024年11月、シンガポール政府 Infocomm Media Development Authority が「AI安全性レッドチームチャレンジ プロジェクト」を開始しました。文化や言語の専門家のコミュニティを集め、AIモデルをレッドチーム化することを目的として組成しており、生成AIを地域にとってより安全なものにするための重要な第一歩と捉えています。
本イベントでは、日本のAI安全性の取り組みの紹介、11月5日に行われたプロジェクトの報告会を行うと同時に、このようなコミュニティを継続させていく枠組みについてお話します。
日本における真のマルチステークホルダー議論が促進され、
健全なAIビジネスの発展と、それによる日本の産業競争力向上の一助となれば幸いです。