ニュース

Sep 06, 2023

Microsoft は毎日の Bing AI クエリを制限している • The Register

Panoramica sull'intelligenza artificiale Microsoft inizia a limitare la durata delle conversazioni con l'intelligenza artificiale.

AI の概要 Microsoft は、ユーザーのクエリに対して無制限の応答を生成することを防ぐために、AI 主導の Bing チャットボットとの会話の長さを 1 日あたり 50 ターンに制限し始める予定です。

同社の Edge Web ブラウザに導入されたチャット機能が、あまりにも長い間調査された結果、おかしくなったと人々が報告しています。 Bing はユーザーを脅迫し、ガスライティングを行い、感情を操作するようになりました。 さらに、記者に恋をしていると主張し、妻と別れるように言った。

（優れたレポーターは記事を書くためにあらゆる努力をしますが、どこかで一線を引かなければなりません。）

Bing の異常な動作を抑制するために、Microsoft はユーザーのチャット ターンを 1 日あたり 50 回、セッションごとに 5 回までに制限すると発表しました。 「ターンとは、ユーザーの質問とBingからの返答の両方を含む会話のやりとりである」と同社は説明した。

Bing には人格があると思われがちですが、チャットボットは何を言っているのか理解できない単なるソフトウェアです。

会話のような口調になるように訓練されているため、人間の対話を模倣し、感情的な質問をされると脱線し始める可能性があります。 残念なことに、AI は、一見無害な質問をされたときにも、これを開始することがあります。

「チャットセッションが5ターンに達すると、ユーザーは新しいトピックを開始するよう促される。各チャットセッションの終了時には、モデルが混乱しないようにコンテキストをクリアする必要がある」とMicrosoftは明言した。

Googleは、AIチャットボット「Bard」を改良し、ソフトウェアによって生成されたテキストを書き換えてウェブ検索に使用できるようにするようスタッフに求めている。 伝えられるところによると、この広告大手の検索担当副社長、プラバーカー・ラガヴァン氏は、バード氏の回答が正確かつ適切であることを確認するための協力を求める電子メールを従業員に送ったという。

CNBCによると、同氏は「これはエキサイティングな技術だが、まだ初期段階にある」と書いた。 「私たちはそれを正しく行うことに大きな責任を感じています。ドッグフードへの皆さんの参加は、モデルのトレーニングを加速し、負荷容量をテストするのに役立ちます（言うまでもなく、Bard を試すのは実際に非常に楽しいです！）。」

「Bard は例から最もよく学習するので、時間をかけて思慮深く応答を書き直すことは、モードを改善するのに大いに役立ちます。」と彼は付け加えた。

CEOのサンダー・ピチャイ氏は従業員に対し、自分の時間をBardに約2～4時間費やすことを推奨し、「これは現場全体の誰にとっても長い旅になるだろう」と述べた。 Bard のような大規模な言語モデルは、インターネット上の情報を検索するための革新的な方法として宣伝されていますが、信頼性の低い応答を生成する傾向があり、学習には人間が書き込んだクリーンなデータが必要です。

データの改善によってモデルが完璧になるわけではありませんが、多くの場合、パフォーマンスが向上します。

アルゴリズムによる危害や偏見からユーザーを保護する技術を規制することを目的としたEU AI法は、議員らが最終条項を交渉している最中に先送りされている。

ロイター通信によると、この法案は来月末に加盟国による投票で可決される予定だが、当局者が基本原則について合意できていないため、延期される可能性があるという。 ポリシーは、開発や投資を抑制することなく、データのプライバシーを保護しながら、AI の透明性の欠如と偏った結果を出力する傾向に対抗するのに十分厳格なものでなければなりません。

ドイツ緑の党の代表であるセルゲイ・ラゴディンスキー議員は、「ここでは基本的権利を重視する一方で、基本的権利は必然的にイノベーションと矛盾すると主張する人々の間に明らかな緊張がある」と述べた。 伝えられるところによると、国会議員たちは、どの AI アプリケーションを「高リスク」とみなして、より厳しい規則の対象とするかを決定するのに苦労しているとのこと。

この法案がいつ次の立法段階に進むかは明らかではない。 ある議員は「ファイルは長くて複雑で、議員らは交渉の責務について合意に達するために懸命に取り組んでいる。しかし、次のステップには期限もカレンダーもない」と語った。

画像生成モデルが建物や部屋のインテリアなどのデザインをより上手に行えるようになると、AIが建築家の仕事を奪う可能性がある。

デザイン博士号プログラムを指揮するフロリダ国際大学のニール・リーチ教授は、DALL-E、Midjourney、Stable Diffusionなどの商用ツールが建築家たちの仕事を危険にさらしていると警告した。

テキストによる説明だけで家、建物、部屋のリアルなレンダリングを簡単に作成できるため、建築家にデザインを描いてモデル化してもらう必要が減ります。 リーチ氏は、これらのツールは確かに建築家の生産性を向上させるが、労働者がより短い時間でより多くの仕事をこなせるようになったとしても、企業は依然として多くの人を雇用するだろうかと述べた。

「私たちは、建築家の死の噂が非常に誇張されていると信じ込まされがちです。この物語にあるように、人間の心の持つ独特の創造力は永続します。しかし、私は違うと思います。AI が進化する兆しがあります。」それは良いだけでなく、恐ろしいほど良いことであり、人間としての私たち自身の限界を露呈し始めており、建築家としての私たちの仕事を疑いなく危険にさらしている」と彼はデザイン雑誌Dezeenへの意見記事で書いた。

リーチ氏は建築家に対し、これらのAIツールを手に取り、職業の進化に適応する「スーパーユーザー」になる方法を学ぶようアドバイスした。 ®

ニュースを送ってください