皆さんOpenAIというのをご存知ですか？
OpenAI は、人工知能を研究する非営利団体である。人類全体に、害をもたらすよりは、有益性があるやりかたで、オープンソースと親和性の高い人工知能を、注意深く推進することを目的として掲げている。
2015年12月に設立された。イーロン・マスクをはじめとする有力な実業家・投資家が参加していることから注目を集める。 2016年4月に強化学習アルゴリズムの検証プラットフォームであるOpenAI Gymを発表した。 （wikipedia）
このOpenAIが開発したAI自動文章生成システムがGPT-2というのですがこれが危険すぎるとして公開を延期されたということです。
OpenAIのGPT-2が危険すぎるとして公開を延期
以下のようにOpenAIのGPT-2 が危険すぎるとして公開延期された経緯がGigazineで紹介されています。(記事はこちら)
～引用ここから
OpenAIはGPT2が生成するテキストの品質があまりにも優れているため、悪意あるユーザーがGPT2を用いることでどういった問題が生じるかをより詳細に検討するために時間が必要だということで、GPT2の公開を延期することを決めました。
OpenAIのプライバシーディレクターであるジャック・クラーク氏は、「AIモデルのすべての機能を予測できない場合は、そのモデルで何ができるかを確認する必要があります。それが悪意を持って何ができるかを考えることが得意な人は、我々開発陣よりもはるかに多くいます」と語りました。
OpenAIはGPT2の可能性を正確に評価するためにいくつかの控えめな調整をGPT2に施し、スパムやフェイクニュースを生成可能なバージョンを作り出しています。GPT2がデータセットとして用いているのはあくまでもインターネット上に存在するテキストであるため、これを陰謀論や偏見のあるテキストを生成するためのジェネレーターにすることは比較的難しいことではないとのこと。
～引用ここまで
AIの文章がフェイクニュースとして蔓延する
ネット上の文章がAIに置き換わる時代が始まりつつあります。例えばスポーツニュースなどは比較的簡単にAIが作ることができるそうです。
そしてこの技術はいずれフェイクニュースを作るのにも使われるかもしれません。AI文章生成システムは必ずしもOpenAIのものだけではないのでいずれそういったものが出てくるでしょう。
そうすると私たちは人工知能の文章と、人が書いた文章を目にすることになります。AIの文章は不自然さがないためGoogleやBingなどの検索エンジンがはじくことも難しいでしょう。
今でも不自然な文章がサイトに混じっていることがあります。しかし「なんか変だなあ」という程度で読めてしまうものもある。これは一定の影響を与えるということなんですよね。
フェイクニュースを見極める目が必要…それ以前に
よってフェイクニュースを見極める目が必要になってくるわけです。しかしそもそもそれ以前にフェイクニュースであるかどうかを「参照」することが必要になります。つまり他にも同じニュースがあるかどうか調べるわけです。
この「参照」という行為が必要になる日も近いでしょう。そうなった時、問題になることがあります。それはスマホを使っていると、この「参照」行為がしづらいとうことなんです。スマホはひとつのページを見ている時に同時に別のページを見るということがやりづらいです。
そのためスマホで情報を探す人はフェイクニュースを真に受ける可能性が高くなります。
つまりパソコンを持っていないと駄目なわけです。
しかしこのAIによる文章の登場はいずれそもそも人間が書いているとわかっているサイトしか見ないという習慣をもたらすでしょう。「信頼性」のあるメディアしか生き残れないというわけです。
いずれ個人メディアがやはり主流になると思います。しかしそれでもAIの作ったフェイクニュースは目に入って来るでしょう。その時に真実でないものも含まれる可能性があるので自分の目でチェックすることが大事なわけです。
初めて見るサイトはパソコンのブラウザで別のサイトと比較して正しいかチェックするような日が来るもの近い！？
コメント