■プレゼンテーションC「AI」
水野 一郎氏(金沢工業大学教授)
プレゼンテーター
米倉 千貴 氏(株式会社オルツ代表取締役)
コメンテーター
福光 松太郎 氏(金沢創造都市会議開催委員会会長)
特化型から超AIへ、人間の仕事は大きく変わる
(宮田) プレゼンテーションCです。まさに今回ドンピシャのテーマだと思いますが、株式会社オルツの米倉さんにお越しいただいています。AIといっても今は第3次AIブームといわれていて、ここに来て何かすごいのが出てきたというお話も聞いているので、今日はぜひお話ししていただきたいと思います。恐らく、これからいろいろな領域にわたって、人工知能(AI)がわれわれの生活に関わってくると思います。先ほどの自動運転や鍵の話もそうですが、そもそもAIとは何なのか、オルツという会社がどこを目指しているのか、ちょっとお話を深く聞いてみたいと思います。ぜひよろしくお願いします)。
(米倉)オルツの代表の米倉です。よろしくお願いいたします。今日はAIという大きな概念のタイトルで話してほしいということですが、当社はパーソナルの人工知能P.A.I.というものを作っています。
まず、社名はオルツというのですが、この社名に込められた意味は、まずオルタナティブということと、「al+」という表示になっているように、次なるAI、今、ちまたでいわれているAIの次がどのようになっていくのかを見据えたAIを作っているというのが、当社の思いになります。
「個人の力の最大化」。これが私たちのテーマであり、かつ、私自身が常に取りつかれているテーマでもあります。ちなみに、私はテクノロジーに関しては超タカ派ですので、タカ派の意見として話を聞いていただくと、少し聞きやすくなるかと思います。
この映像をご覧ください。ご存じピカソの生映像です。この人は普通の人と違って、絵筆を使って表現し続けることに人生の大半を使いました。そうすると魔法のような線を描けるようになって、一手一手が神の手のような状態です。ご存じのとおり、この絵はたった1枚が何百万ドルで取引されています。
実際、昨年のNIPSという人工知能学会でスペインに行ったときに、まち全体がピカソとガウディに支配されているように感じました。これこそ、私が考えている「個人の力の最大化」を体現している一つの例だと感じています。
これが、日々の私たちの行動です。多少の違いはあっても、大半の人が隣の人と同じことを、取りつかれるようにしてやっているというのが、私たちの現在の状況だと思っています。およそ1日8時間パソコンに向かって、何かカタカタやっているわけです。私の予測ですが、ピカソも1日8時間以上パソコンに向かってパカパカ打つほどの絵は描いていないのではないか。そこまでの作業をしていたら、ピカソを超える何らかになっている可能性もあるのではないかと思っています。
実は、この作業というのは少し恐ろしい状況になってきていると私は思っていて、私は小学校の5年生くらいでパソコンを触り始めたので、30年くらいデジタル上の作業をやっているわけですが、残念ながらいくらパソコンをカタカタやったところで、ピカソのあの一手のような価値は、キーボードの1タイプには生まれないのです。「個人の力の最大化」といったときに、そこを非常に疑問に感じながら、いまだにパソコンをカタカタしています。
AIを語るために、まずこの話をしました。私たち一人一人がピカソの魔法の一手が描けるような瞬間瞬間を生きられるようにするためには、どうすればいいのか。これが、私がものを作るときの原点になっています。これをシステム化できれば、当然ながら必ず訪れる人口減少化社会でも、そういうものと無関係に個人の力は大きくできる。その力を使えば、もっともっと良い社会ができるはずだと思っています。かつ、現状、私たちはこれ自体が環境的にできるのではないかと感じています。これをテクノロジーで実現できるのではないかと本当に実感している、そういう人間の一人だと思っています。
諸先輩方がいらっしゃる前でせんえつながら、「AIとは何ぞや」ということを、ものすごく簡単に説明いたします。
一言で言えば、単なる箱と、入力、ネットワークでデータを通信するくらいの存在だったもの(パソコン)に、人間の脳構造をまねてニューロンの仕組みを入れてみたら、今までコンピュータに不可能だった自動学習や推測や判断などができるようになった。これが、基本的なAIの考え方と考えていいのではないかと思います。
それにより、ハード面やプログラム面などがかなり成長して、われわれが驚くような進化を遂げ始めているというのが、現状かと思っています。
AIがどのように使われているのかという例です。今AIブームになっているので、ディープラーニングの活用方法として、いろいろなものが試されています。先ほどもありました自動運転や、レンブラントの絵を復活させるとか、AlphaGoなどがあります。
よく誤解されていることですが、これらは特化分野において人間以上の精度を出しているだけで、全然できていないことが一つあります。それは、マルチに動くことです。あれをしながら、これもして、あれも考えてということに関しては、現状のどのAIであっても、できていない状態です。
とはいえ、2030年には産業が87兆円に膨らむといわれています。その中身は一体何だというところはありますが、あらゆる分野にAIが入っていこうとしています。それぞれのアプローチ方法として、みんな特化型を一生懸命作っているというのが現状です。
AIを説明するときの大事な考えだと思っているが、これです。これは、実はIBMのサイトから拝借したもので、シンギュラリティまでのシンプルなヒストリーとストーリーを表したものです。
AIを語るときには、現状何ができるのかというところから語られることが多いのですが、そのようにして語っていくと、時間差で追いつかなくなっていきます。ここで重要になってくるのが、AGIとASIです。AGIは汎用人工知能で、先ほど言った特化型ではなく、あらゆることに関して学習して、判断して、対応することができるマルチな人工知能を指します。それが2030年度あたりに現れると、特化型は淘汰(とうた)されてしまいます。必要性がなくなっていくということです。
もう一つすごく大事だと思っているのが、ASI(超人工知能)です。実際にASIの誕生を目指して研究を進めている研究者の方々は、恐らくかなり実感しながらそれに向かって研究されているのではないかと思います。このAGIの足固めのようなところが、現状のAlexaやGoogle検索エンジンなどに、非常に表れていると感じます。ASIは、一言でいうと神様です。ASIの言うことを聞かない行動をとると人生を台無しにするというようなものが、ASIです。ある種、本当にそういうものを作るために、今いろいろなところが加速度的に実現させようとして向かってきていると感じています。
分かりやすい汎用人工知能と特化型人工知能の違いの図があったので、これも拝借してきました。左側が今語られている特化型人工知能です。人が課題を見付けて能力を高めていくというのが、基本的な能力の高め方です。かつ、見る・聞く・話すなど、それしかできません。しかし、それに関して徹底的に鍛え上げていくことはできるというのが、特化型人工知能です。AlphaGoなどが分かりやすいです。
汎用型人工知能は、見る・聞く・話すもマルチに動くことができ、かつ、それらを判断して自ら課題を発見し、自立的に能力を高めていく。まさに人間です。人間の脳みそがコンピュータになっているというものが、汎用型人工知能です。当社は汎用型人工知能派で、そちらの研究開発をしています。
ASIが誕生後の世界について、日本のセッションではあまり語られることはないので、あえてお話ししたいと思います。今回はまちづくりという非常に大きな枠組みですが、ASIの視点からそれをどのように考えていくのか、時間軸などもどう考えていくのかということに関して、想像していただくいい機会になればいいなと思っています。人よりはるかに優秀で、自動成長して、本当に神様のような人工知能が現れるというのがいわゆるシンギュラリティであり、それがASIです。シンギュラリティ誕生後はどうなっていくのかというと、人間の知識はネットワーク上にあるデータベースと直接つながって、検索することなく、それについて話すことができるようになる、自分のものにできるようになるという、非常に不思議な世界になるそうです。それがポスト・ヒューマン(次なる人間)のイメージになります。
夢物語のような話なのですが、ご存じのとおり自動車メーカーであるテスラのイーロン・マスクは、それを実現するために、電極を頭に差して直接パソコンとつながる会社を設立しました。それくらい、実質的にあり得るという前提で向かっていかなければいけないと、私は思っています。タカ派なので(笑)。
ここまでが一般的なAIとしての大ざっぱすぎるほどの説明で、ここからは私たちのP.A.I.の説明に入ります。早速ですが、当社のプロモーションビデオをご覧ください。
***ビデオ上映***
このプロモーションビデオ自体は、起業した3年前に作ったものですので、iPhone5の時代です。大体お分かりのとおり、私たちが作っているのは分身です。パーマンのコピーロボットのデジタル版を作ろうとしています。それを僕たちはPersonal Artificial Intelligence(P.A.I.)と呼んでいます。
プレゼンのときにいつも聞く質問ですが、「分身がいたら、あなたは今何をしますか」。多分この問いに関して、ほぼ皆さん、少しは考えたことがあるのではないかと思います。ぜひ、このタイミングで真剣に考えてみていただきたいと思います。
今からマイクを渡しながら全員に聞いて回ります。では、まず牧田さん、一番聞きやすそうなので、ぜひお願いします。
(牧田) 私は今年結婚して新婚で、旦那がスペインにいるのです。もし私に分身がいて、明日以降のスケジュールを分身がやってくれるのだったら、私は今すぐスペインに行きます。新婚生活をしたいです。
(米倉) ありがとうございます。次は、聞きづらそうな人代表で、水野先生にお願いします。
(水野) 私は、この後セッションをコーディネートしなければいけないのですが、今、4つのフレゼンテーションを聞いていると、もう頭がだいぶ疲れてきていて大変だなと思っているので、聞く側に回って、分身にコーディネートをやってもらおうかと思います。
(米倉) 私は、この場に分身がいたら、初めて金沢に来たので、まず金沢のまちを観光させてくださいと思っています。
この問いをいろいろな人に聞いていくと、ほぼ全員同じ答えになります。つまり、それは「したいことをする」と、皆さん大体おっしゃいます。それはなぜなのかと、私は常に考えています。そして、それこそが、本当に今、自分がしなければならないことだと実は悟っているのだと、私は思っています。人が「したいこと」をするのが当たり前、それがマジョリティの考え方になる世界を実現するために、私たちは人格コピーをする技術P.A.I.を開発している、そういう会社です。
繰り返しになりますが、私たちの技術の中で非常に重要なのが、「したいこと」と「しなければならないこと」の分類です。「したいこと」は残す、「しなければならないこと」は代行すべきと判断させるという仕組みになっています。どういった形でそれを判断できるようにするのかということに関しては、われわれの日々生きている限りで取れる、デジタル上取得可能なデータの全てを記憶として扱い、それを蓄積・整理して、われわれの個性や人格として反映させていくという仕組みです。
これが、コンピュータのあるべき姿だと私は常々思っています。私は妻も子どももいるのですが、私の行動履歴などは、妻や子ども、私以外の他人よりも、圧倒的にiPhoneの方がよく知っていると思います。僕に突然何かあって、妻にiPhoneのデータを全部見られたら、非常にリスクの高い状態になるくらい、重要な記憶がこの中に入っていると思います。つまり、われわれの今生きている限りでの生きた証しのようなものは、実はデジタルデータの方が持ち始めているという状況になってきています。それが、オルツという会社をつくってやろうと考えたきっかけです。
私たちが目指しているのは、世界初の人格保存システム、人格復元システムを作りたい、そして世界初の人格流通プラットフォームを作りたいということです。
「個人の力を最大化する」というのは、実はこういうことだと私は思っています。
日本だと、イタコの憑依(ひょうい)という言葉があります。実はこの話は、恐ろしいことに私以外にもAI系のベンチャーで話している人がいます。そこはBMI(Brain Machine Interface)を作っているのですが、考えていることが似ている人はいるなと思います。
私のように働くロボットや、私の子どものように遊ぶゲームアバター、母のように演奏するピアノ、妻のように子どもをあやすおもちゃというものが、簡単に、今のデジタルファイルの出し入れと同じような感覚でできる。パーマンのコピーロボットは鼻を押しただけで自分に変わるわけですが、まさにそのようなことができるものを作りたいと考えています。
繰り返しになりますが、「分身がいたら、あなたは今何をしますか」というこの問いが、僕たちの常識になる世界。それがオルツという会社がつくっていく世界観であり、ビジョンです。
ここからは、もう少し真面目な話になります。実は、いつも僕はこの辺までしか話さなくて、ここから先はうちのバイス・プレジデントが話してくれるのですが、今日はいないので僕が話さざるを得ないので話します(笑)。
すごくエキセントリックな話をしましたが、中身は非常に真面目に作っています。当社は基本的にすごくエクストリームなビジョンを抱えているので、研究者とエンジニアなど、かなり高度な人たちが集まっているというのも特徴になっています。あとは、世界的に権威のある学会などでも採択されたり、技術的な面や、世界で評価されていくことに関しても着々と進められています。
また当社では、実は産学連携を非常に重視しています。現状でも10校くらいと連携しています。私はAIの研究を長くやりたいわけではありません。描いた世界観を本当にどこよりも早く着手して、早く、日本で、実現させたいという思いがありますので、自分たちのノウハウがないところに関しては、できる限りいろいろな方の力を借りたいと考えて、会社設立当初から産学連携を進めています。
現在の主なチームメンバーです。CEOが私です。バイス・プレジデントは、実は私の兄がやっています。元々検索エンジンの技術で特許などを取っていた人です。CTOの西村は、南カリフォルニア大学でDNAの塩基配列処理の分野で言語処理の研究をしていました。CSOは、ご存じの方もいらっしゃるかと思いますが、ディープラーニングと自然言語処理の専門家で、東京大学の助教授、今はリバプール大学で准教授をされているダヌシカ先生に就いていただいています。
私たちは、先ほど申し上げたとおり、元人工知能学会研究所所長の松原先生や、言語処理の関根先生をはじめ、アジアのAI代表をされているような知識人を集約して、このP.A.I.を作ろうとしています。先生方に参加していただいたら、すぐにSlackのチャンネルを作り、先生方もSlackのチャンネルにつないで、すぐに議論が始められる環境もつくっているのも、当社のつくり方の特徴かと思います。
オルツの汎用人工知能の最大の特徴が、何をしているのか、何までやろうとしているのかという決断です。人間の決断を代行させることが、人工知能でわれわれの目指している直近のところになります。
現状、ご存じのとおりGoogleやAmazon Alexaなども、全部レコメンドまでしかやっていないのです。レコメンドがいくら優れていたとしても、人間の仕事は減りません。それを本当に減らすため、決断の代行をやろうとしています。
決断を代行させようとすると、すごく重要になってくるのが個性です。みんな適当に決断しているようで、その人個人にとっての個性的決断をしているので、その個性をいかにうまく入れた決断ができるかというところが肝だと思っています。
これは同じことを言っていますけれども、その人らしい決断というのは、実際には合理的なものもあれば、不合理な決断もあります。合理性ばかりを追求するAIとの違いが、当社の人工知能研究の特徴になっています。
これも同じようなことを言っていますが、個性のつくり方に関して、自分以外の人たちの意見も取り入れたコモンセンス的な考え方との違いのようなもので、個性をつくり出そうとしています。実質的にこの方法で非常に良い成果が出ているので、後でご紹介します。
オルツのP.A.I.ができてくると、われわれのコンピュータとの接し方のインターフェースに、すごいパラダイムシフトを起こすと思っています。先ほどBMIという話がありましたが、われわれはBMIのようなことを違った手法でやれると考えています。非接触型のコンピュータとのつながり方を実現できると考えています。
これは当社のシステムの全体像です。インプットインターフェースとメモリーモジュール、ソフトモジュール、アウトプットインターフェースという構造で出来上がっています。
少し自慢話になりますが、オルツのVoice Cloneは、ディープラーニングの技術を使って音声合成をすごく便利にしました。音声合成は、今まで過去にもたくさんの会社があって、いろいろ試みられてはいますが、残念ながら音声合成を一つ作るのにすごい時間がかかります。例えば、1000センテンス、少なくとも100センテンスは読み上げて、その読み上げた文章と声を一体化させて音声合成を作るというようなことをやっています。
当社の特徴は、先ほどの個性のつくり方と関連しているのですが、平均声というものを先に作ってしまいます。たくさんの人がどのように話すのかというコモンセンスデータのようなものとの比較を、ディープラーニングを使ってモデル化します。そうすると、テキストなしで、ボイスデータさえあれば音声合成ができてしまうことが実質実証されています。
この中にそのデモ動画がありますが、すごく長く、かつ英語でしかしゃべってくれないので、後ほどお聴きになりたい方がいらっしゃったら聴いてください。
これによって何ができているのかというと、つまり今まで無料にすることが非常に難しかった声のクローンを、完全に無料で、世の中全ての人が簡単に作れるということを実現できています。
言語処理の変なところに入ってきますが、FG_NERというコア技術は、世界的な学会のACLで採択された技術で、精度も90%くらい出ています。通常NERでは、GoogleやMicrosoftでさえ8種類の分類しかできなかったのが、200分類できるようになりました。これは人間よりも賢いことができて、今、テック系の企業などで使われています。
次はRMRです。先ほどのデモにも近いのですが、過去に話した会話から推測して、ベストな回答を自動的に導き出してくれる仕組みになります。
これもかなり精度も高くなっていまして、現状でもコールセンターなどで、もう使われています。
これらをくっつけるとどうなるかというデモをお見せします。少し古いのですが。
***ビデオ上映 開始***
これ自体も、1年以上前の状態ですので、現状ではもっと進化しています。
***ビデオ上映 終了***
当社のファーストバージョンは、2020年を完成目標としています。現状は要素技術をB to Bの形で展開させていただいていて、2020年からB to B to Cで提供させていただこうと考えています。最終的に目指すところは、当然ながらパーソナルAI(P.A.I.)という言葉に込められた思いから分かるとおり、C向けに直接この技術を提供していこうと考えています。
私たちの技術は、人間とコンピュータをつなぐ新しいマンマシンインターフェースを目指しています。全てのデバイスが、世界中の個人個人の個性などを1人ずつ、大ざっぱにではなく、深く理解することで、これまでの人間とコンピュータの関係性を変えられると考えています。
冒頭でも話があったように、これまで人間がコンピュータに指示をしていた時間はすごく膨大で、今なお膨大な浪費をしていると思います。この「al+」が入ることによって、その浪費されている無駄な時間から解放されて、まさに自分たちはしたいことができるようになると思います。
最後となりますが、決断を下すロボットです。P.A.I.のデモですが、このデモでは私がたった一言「ピザを食べたい」と言うことによって、特化型ロボットのSiriを動かして、目的を果たすところをお見せできます。特化型AIが汎用AIとくっつくと、非常に便利になるというお伝えしたいところに関してもお見せできるかと思います。
***ビデオ上映 開始***
ここは面白いです。
***ビデオ上映 終了***
汎用AIが特化型AIを動かして、マニュアル人間を動かすという、面白いものでした。
最後になりますが、「したいことがすべきこと。それが常識な世界を日本から生み出したい」、それがオルツです。ご清聴ありがとうございました(拍手)。
(宮田) 米倉さん、ありがとうございました。いろいろなヒントが隠れているプレゼンテーションでした。決断するというのはすごいですね。僕はいつもポテトチップでのり塩にしようかうす塩にしようか迷うので、それ専用の人工知能が欲しいくらいです。
先ほどのものは、完全に米倉さんの声でしたよね。そんなに手間も要らずに、合成音声が作れるのですか。
(米倉) 簡単に作れます。
(宮田) 僕は滑舌が悪いので有名なのですけれども、その辺はどうなのですか。
(米倉) 全く問題ないです。
(宮田) 問題ないのですか。
(米倉) はい。もしよろしければ、デモをお見せできます。
(宮田) はい、ぜひ見てみたいです。
(米倉) では、YouTubeにつなげます。これは実際にシンガポールで研究発表したときに作ったプレゼンテーションです。
ここから見ていただくと、面白いです。
***デモ 開始***
<ケース1>
これはYouTubeから該当する動画だけを引っ張ってきて、その該当している音声の中で最も多い声を自動的に抽出して、自動的に抽出したデータだけを使って音声合成したというデモになります。
(宮田) 今、いわゆるコンピュータがしゃべっているのですか。
(米倉) そうです。これはまさに今、作ってしゃべっています。
(宮田) すごいですね。
(米倉) 実際にスティーブ・ジョブズの声も作れます。少し声が小さいですけれども。
<ケース2>
(宮田) これはスティーブ・ジョブズの声を合成しているのですか。
(米倉) そうです。現状、死んだ方の音声合成は難しいのですが、それもできます。
(宮田) 記録が残っていれば作れるということですか。
(米倉) そうです。例えば、アニメのキャラクターの声なども簡単に作れます。
<ケース3>
(米倉) 例えばこれは今のものでしゃべらせています。
***デモ 終了***
例えばメールを受信したときに、今Alexaに「読み上げて」と言うと、Alexaの声でしゃべっていますが、「読み上げて」と言わなくても、その家族の声ですぐに聞くことにも使えます。
(宮田) すごいな。スティーブ・ジョブズに、すごくばかなことをしゃべらせることもできますね。
(米倉) あとは、ヒラリー・クリントンにニュースを読み上げさせたり、ジョブズの伝記をジョブズに読ませるなど。漫画や本をリーディングでやることに関しても、今までは一定の金額をかけないとそういったコンテンツが作れなかったのですが、その金額をかけずとも作れます。
(宮田) 毎日、こんな仕事をしていたら楽しいでしょうね。
(米倉) そうですね。少しおかしい人と(笑)。
(宮田) ですよね。どうもありがとうございました。福光さん、今日ぜひいろいろご質問をしていただきたいと思います。
(福光) 大変びっくりしました。今日は来ていただいてよかったと思いました。
(米倉) ありがとうございます。
(福光) 分身が自分のデジタルデータを駆使して作られるとすると、自分と同じレベルの分身しか作れないのか、そのときに自分のデータ以外にいろいろな知識を入れられたり、能力も何かいろいろな人の良いところを合わせて、より優れた分身は作れるのですか。
(米倉) この仕組みを作ろうと考えて、私は会社の事業を全部売却してこれを作っているのですが、その理由は、会社組織をつくるときに一番難しいのは、スタッフのリソースが、人が退職すると消えてしまうということです。せっかくためたリソースも、女の子が結婚するだけで消えてしまうというか、そんなことがあり得ていいのか、それをどうしたら残せるのかとずっと考えていました。
私は、このP.A.I.でどういうものを作りたいかというと、例えば、ここにいる皆さんが株式会社Aという会社に入ったとしたら、皆さんにP.A.I.を持っていただきます。そのP.A.I.の全部のデータを融合させた最適解を出したB.A.I.(会社のAI)を作ってしまおうと考えています。「法人」という言葉が、それをすごく表していると思います。そういう形にすることで「事業は人なり」ではないですが、法人格が何となく見えてくるということにもつながるのではないか。それが一つの、自分たちでどういうAIをデザインするかという私の中での考えです。
(福光) グループでやるかどうかは別にして、自分より優秀な分身が作れるとすると、その分身がどこかへ働きに出ればいいのであって、その分身がどのくらい給料を取れるかということであって、私は別に勤務しなくてもいいということですか。
(米倉) まさにそういうことです。
(福光) そういうことですね。だけれど、分身が勤めている会社もB.M.I.だったとすると、それは一体何なのかというか、何ですかね(笑)。
(米倉) 冒頭でASIの話をしましたが、あれが非常に重要だと思っています。ASIの時代が必ず来ます。来たときに、人の仕事は大幅に変わるはずだと思っています。それを見付ける作業を真剣にやらなければいけません。
今われわれがやっている仕事がロボット化されないのかというと、かなりのシェアでロボット化されると思っています。そうであれば、現状われわれがこの瞬間に何をしておくべきなのか。これは私の子どもによく話します。子どもが「お父さん、僕、プログラム習いたいんだけど」と言うのです。自分と同じようなオタクなので、オタッキーな方向に行くのですが、僕は子どもに、「それが楽しいのであれば、遊びだと思っているのであればやった方がいいけど、将来役に立つと思うのだったらやめた方がいい」と話しています。すごく大事なことは「遊ぶ」という感覚だと思っています。
(福光) 結局、本当の人間は「遊ぶ」ことで創造的に生きていくことになって、神のような超能力が出てくるという話が僕らにとっては理想的ですが、ひょっとしたらそちらの方が偉くて、人間は一番安い仕事をさせられる可能性があるかもしれませんね。私にとってはとても好きな分野の話を聞かせていただきました。
(宮田) 志賀さんのコメントをお願いします。
(志賀) 早く開発してほしいと思います。この間、ある人と話していたら、体は130年くらい生きられるのですが、脳の方が先に駄目になってしまうらしいです。私もものすごく物忘れが激しくなって、サプリメントを飲んでいるのですが、全然効きません。そうすると、全部分身に覚えさせておいて、「あいつ、誰だっけ?」と言ったら、教えてもらえばいいわけですね。そうすると130年生きられるかもしれません。ぜひお願いします。
(宮田) 本当にすぐに欲しいですね。まだまだいろいろとお話を聞きたいのですが、米倉さんのプレゼンテーションをここら辺で終わりにしたいと思います。どうもありがとうございました。
(米倉) ありがとうございました(拍手)。 |