Rokidのスマートグラスで自作アプリを動かす:標準機能の使用感と、外部AI連携で広がる用途
イチケン / ICHIKEN電子工作系YouTuberのイチケンが、Rokid Smart AI Glassを使った。スマートグラスを使うのはこれが初めてだという。動画の前半では翻訳や字幕などの標準機能と、かけ心地やバッテリーといった使用感を確かめる。後半ではAIのClaudeに開発を任せて自作アプリを3本作り、このスマートグラスでどこまでのことができるかを試している。イチケンがこの製品で最も面白いと考えているのは、標準アプリ以外に自分で開発したアプリを動かせる点である。
本体の構成と、表示に慣れるまで
見た目は「若干ごついメガネ」だが、フレームにスピーカーと操作ボタン、正面にカメラが付いている。レンズ部分はディスプレイになっており、文字が表示される。フレームをタップしたりスワイプしたりすると、メニューが表示されて各機能を呼び出せる。
表示は約5メートル先で焦点が合うように設計されている。イチケンは最初、このARの表示に焦点を合わせるのに苦労した。スマートグラスを手で覆って外の景色を見えなくすると合わせやすくなるといい、これは慣れの問題だと述べている。
リアルタイム翻訳:対面の会話で使える精度
標準機能のうち、イチケンが特に気に入ったのは翻訳と字幕の2つである。翻訳はリアルタイムで行われ、その精度の高さに驚いたという。対面で話す場面ではかなり強力な道具になると評価している。
実演では、相手が英語、自分が日本語で話す状況を想定した。会話相手はAIである。趣味を尋ねると、AIは「If I had hobbies…」で始まる英語で答えた。このとき訳文の一部が「ハブ」となり、hobbiesを正しく訳せていない箇所があった。続いて飲み物の話題に移ると、「I'm fine with water…」「Nice! tea... Any particular kind?」といったやりとりが問題なく訳され、会話として成り立った。日常の小さな習慣についての長めの英文も試したところ、かなり正確に訳されていた。
イチケンによると、スマートグラスに入ってくる音の質が悪いと翻訳がうまくいかないこともある。それでも実用に十分耐えられる水準だという。相手もスマートグラスを使っていれば、かなり自然に対話できるだろうと見ている。同じことはスマホでもできるが、スマートグラスのほうが自然な形で会話できると述べている。
字幕機能:補助的な聞き取り支援として
字幕機能は、周囲の音声を文字起こししてグラスに表示する。実演では、マイコン(RaspberryPiのRP2040)の電源電圧や、5Vを3.3Vに下げる電圧レギュレーターについて解説している動画を再生した。こうした専門用語を含む音声でも、かなり正確に文字起こしされた。イチケンは、耳が遠くなってきた場合などに補助的な道具としてかなり役立つ機能だと考えている。
カメラとナビゲーション
カメラを使うと、スマホを取り出さずにその場で写真や動画を記録できる。フレーム上部のボタンを1回押すと写真を撮影し、約2秒長押しすると動画の録画が始まる。画質について、イチケンは「ものすごく綺麗というわけではない」が標準的だと評価している。そのうえで、使う場面を選ばないとトラブルになりうる点に注意を促している。
ナビゲーションモードも用意されている。ただ、表示を見ながら歩くとやや危ないため、イチケン自身は使わないという。慣れれば便利かもしれないとしつつ、現状では表示できる情報量の多いスマホのほうが勝っていると判断している。
かけ心地・視界・度付きレンズ
視力の良い人やコンタクトレンズを使う人は、そのままかけられる。一方、普段のメガネの上から重ねてかけることはできない。そのためメガネを使う人は、コンタクトレンズにするか、別売りの度付きレンズを買う必要がある。度付きレンズは公式サイトで作れ、価格は約1.5万円からである。元のレンズの上に磁石で取り付ける方式になっている。イチケンはタイミングの都合で度付きレンズを作れず、今回はコンタクトレンズで対応した。
重さは、イチケンが普段かけているメガネが19gなのに対し、Rokidは52gである。普通のメガネより重いが、中にさまざまな部品が入っていることを考えると、よくここまで軽くしたという評価だ。
視界については不満がある。フレームが太く、目とレンズの距離も少し離れているため、視界をかなり遮る。普段使いには問題ないが、車の運転などでは死角ができるので使わないほうがよいとイチケンは考えている。イチケンはもともと、視界にフレームが入らないことを基準にメガネを選んでいる。そのため違和感が大きく、視界の広さと死角は今後改善してほしい点に挙げている。重さについては、これ以上軽くするのは技術的に難しいだろうと見つつ、期待はしておきたいと述べた。
バッテリー
電池の持ちは良くない。バッテリー容量が210mAhと小さいためで、何かしらのアプリを常に動かしていると1日に何度か充電が必要になる。後述の自作アプリは電力の最適化をしていないため、特に消耗が激しかったという。ただし20分で80%まで充電できる点は救いだとしている。充電しながら使える小型の電池もあるようなので、併用するとよいとも話している。
開発環境:YodaOSとClaudeによるバイブコーディング
本体には、RokidがスマートグラスHU向けに調整したYodaOSが載っている。YodaOSはAndroidをベースにしているため、このスマートグラス用に作ったアプリを動かせる。開発には開発者用ケーブルが必要で、イチケンはこれを別に入手した。Android Studioなどの開発環境が要るが、環境のセットアップから本体への書き込みまで、すべてClaudeに任せた。いわゆるバイブコーディングである。作ったアプリは3本だ。
1本目は、自作アプリがスマートグラス上で動くかを確かめるための、「Hello Rokid」と表示するだけのアプリである。これは問題なく動作した。
自作アプリ②:数学ソルバー
2本目は、紙やディスプレイに書かれた数学の問題を、グラスのカメラで読み取って解くアプリである。操作は次の順に進む。
- 問題を視野に入れ、フレームをタップして撮影する
- もう一度タップすると、AIが画像を解析し、解く対象の問題を一覧で表示する
- スワイプで問題を選び、タップすると解答が始まる
実演では、5のx乗の積分などの不定積分をいくつか解かせた。答えは途中式付きで表示され、いずれも正しかった。積分区間のある定積分も同じように撮影して解くことができ、グラスに表示された答えは合っていた。
仕組みとしては、撮影した画像をWi-Fi経由で外部のAI(今回はClaudeのAPI)に送り、問題の解析と解答をさせている。このデモでイチケンが伝えたかったのは、撮影した画像や映像をメガネの外にあるAIで処理すれば、できることの幅が大きく広がるという点である。鮮明に撮影できてAIが内容を理解できるなら、数学に限らず物理や英語の問題も解けるだろうと述べている。
自作アプリ③:論破Assistant
3本目は、リアルタイム性がより重要なアプリとして作った「論破Assistant」である。グラスのマイクで会話をリアルタイムに文字起こしし、その内容を外部のAIに分析させて「論破ストラテジー」を考えさせる。返答案はグラスにARで表示され、相手からは見えない。AIの助けを借りて議論で優位に立つ、という趣旨のアプリだ。
実演の相手はAIで、議題は「きのこの山とたけのこの里、どちらがお菓子としての完成度が高いか」。AIがきのこの山、イチケンがたけのこの里を担当した。AIは、つまみやすいサイズ、チョコとクラッカーのバランス、片手で食べられる手軽さを主張した。イチケンが「持ちやすさなら土台の広いたけのこの里のほうが安定する」と返すと、AIは「軸が指にフィットする」「机の上に立てておける」と反論した。さらにイチケンが「置いて楽しむのは食べやすさの話とずれていないか」と突くと、AIは「鋭い指摘」と認め、お菓子の中心は味や食感だと認めるところまで議論が進んだ。
イチケンは、議論や論破ストラテジーの生成そのものは割とうまく動いたと評価している。一方で、文字起こしと返答の生成に数秒のタイムラグがあり、実用的とは言いにくいと認めている。どちらの処理もグラスの外で行っているため、そこでどうしても時間がかかるという。
文字起こしはグラス本体でローカル処理することもできる。ただしRAM容量の制約で大きなモデルは使えず、小さなモデルに頼るしかない。その結果、文字起こしの精度がかなり低く、「全然ダメダメ」な結果になったという。そのため、今回の実演では文字起こしも外部のAIに任せていた。イチケンは、低消費電力で高性能なNPUを載せた専用SoCが出てくれば、高速に処理できて、さらに面白いことができるのではないかと見ている。
結論:コンシューマー向けの枠を超えた可能性
イチケンは当初、スマートグラスをコンシューマー向けの製品だと考えていた。しかし実際にアプリを開発できたことから、特定の用途に合わせたアプリを作れるなら、製造業などのB2B領域とも相性が良いのではないかと考えるようになった。実用面では、リアルタイム翻訳がかなり使えることがわかったので、今後海外に行くときには活用したいという。スマートグラスは今後数年でさらに進化するガジェット分野だと見ており、引き続き追いかけていくと述べて動画を締めくくった。
こんにちは。今日はこちらのスマートグラスを手に入れたので、いろいろ使ってみたいと思います。実物がこちらです。Rokid Smart AI Glassです。
見た目は若干ごついメガネではありますが、よく見てみるとこの部分にスピーカーがあったり、操作ボタンがあったり、正面にカメラがあったり、さらにはレンズの部分がディスプレイになっていて文字が表示されます。
こちらのスマートグラスの面白いところは、標準で付いているアプリ以外にも、実は自分でアプリ開発ができてしまい、このスマートグラス上で動かせてしまうことです。動画の前半では基本的な機能を紹介して、後半は実際にアプリ開発をやってみて、どのくらいのことまでできるのかというのを紹介していきます。
その前にスポンサーの紹介です。どうぞ。
プリント基板を安く作るのなら、JLCPCBがおすすめです。最近特に多層基板の製造を頑張っていて、皆さんにもぜひ6層基板を使ってほしいとのことです。6層100×100mm基板で5枚36.8ドル。高密度設計で必須となるPad-on-Viaが最近無料で使えるようになりました。6層基板用のクーポンも配布しているので、皆さんもぜひ色々と試してみてください。
このようにスマートグラスをかけてみました。実はスマートグラスの類は初めて使います。スマートグラスをかけるとこのように表示されまして、フレームのところをタップしたりスワイプしたりするとメニューがいろいろと表示されまして、いろいろなことができるようになります。
今見えている画面も一緒に表示していますけども、だいたい5メートルぐらい先で焦点が合うようになっています。最初このARに焦点を合わせるのが結構難しかったです。なんですけども、スマートグラスをこういうふうに手で覆うように何も見えないようにすると、ARの部分に焦点が合わせやすくなります。これは慣れの問題です。
では実際に使っていきます。色々使えるのですが、特に気に入ったものだけを紹介していきます。
まずお気に入りが翻訳と字幕です。翻訳はリアルタイムで翻訳してくれるのですが、これがかなり精度が高くて驚きました。特に対人で対話するときなどは、かなり強力なツールになります。
では実際に使ってみます。ここで翻訳を選んで、今日本語に翻訳するようになっています。ARの部分にもこんな感じで、ちゃんと日本語が映っています。これは単なる文字起こしです。例えば相手が英語、私が日本語で話す場合を想定してやってみます。会話相手はAIです。
AIくん、何か短い会話をしましょう。あなたの趣味は何ですか? If I had hobbies, I'd say things like exploring ideas, learning languages, and yes, conversations like this.
ちょっとあれですね。「ハブ」という風になってしまっていますね。
ちょっと短い会話をしましょう。飲み物は何を飲みますか? I'm fine with water, but if you're choosing, what do you feel like drinking? 私はお茶を飲みます。Nice! Tea... Any particular kind?
こんな感じです。会話がちゃんと成立していますし、この翻訳もかなりリアルタイムで精度良くできています。
ちょっと長文も実際やってみたいと思います。何か長文の英語を話してもらえますか。
Certainly, here's a longer English passage. When I think about daily life, I realize that the smallest routines often shape how the day feels. Something like making a warm drink, stepping outside for a breath of fresh air, or just taking a quiet breath. If you start one tiny ritual, the rest of the day can follow the rhythm.
こんな感じでかなり正確な翻訳ができているかなとは思います。スマートグラスに入ってくる音質があまり良くないと翻訳がうまくいかないこともありますが、それであってもかなり実用上問題ないレベルというか、かなり実用に耐えられるレベルになっているとは思います。
最近の翻訳は昔の翻訳と違ってかなり精度も良くなってきていますので、相手もスマートグラスを使っている場合ですと、かなり自然な感じで対話ができると思います。スマホを使ってできないこともないんですけども、スマートグラスを使った方がより自然な感じにはなりますね。
あとは字幕についても結構お気に入りの機能です。これですね。例えば動画を再生してみると、
「その他の部品についても見ていきます。今回使ったマイコンはRaspberry PiのRP2040です。このマイコン自体は3.3Vの電源が必要で、USBから来ている5Vでは動作しません。なので電圧レギュレーターを使って5Vを3.3Vまで降圧する必要があります。」
わかりますか。かなり正確に文字起こしできていますよね。ちょっと耳が遠くなってきた場合だとか、そういった場合には補助的になんですけども、かなり役に立つような機能かとは思います。
あとはカメラ機能です。カメラがここに搭載されていますので、スマホを取り出さないでも瞬時に画像・動画の記録ができます。ちょうどフレームの上の部分にボタンがあるので、ここを1回押すと画像の撮影ができて、ここを2秒間ぐらい長押しすると動画の記録が始まります。実際動画の写りはこのぐらいです。ものすごく綺麗というわけではありませんが、標準的な画質です。ただカメラ機能については、使いどころを選ばないとトラブルになる可能性がありますので、その点は要注意です。
あとはナビゲーションモードという物もあるんですけども、これについては使いながら歩くと微妙に危ないので、私は使うことはないです。多分慣れれば便利なのかなとは思います。あとは単純にスマホの方が情報量多いので、現状ですとスマホの方が勝っています。
ここまでが標準で用意されているアプリの紹介でした。実際の使用感とかメガネをかけた時のかけ心地、そのあたりをもう少し詳しく見ていきます。
まず視力の良い人やコンタクトレンズを使っている人は、このメガネをそのままかけて使うことができます。メガネユーザーの場合は、普段かけているメガネの上からこのスマートグラスをさらにかけるということはできません。なのでコンタクトレンズを着用するか、別売りの度付きのレンズを購入する必要があります。度付きのレンズについては公式サイトから作ることができまして、約1.5万円からです。もともと付いているレンズの上に、さらに磁石でくっつけるみたいなタイプの度付きレンズです。イチケンの場合はタイミング的に度付きのレンズを作れない状態だったので、今回はコンタクトレンズで対応しています。
実際かけてみるとこんな感じです。若干重めです。普段かけているメガネが19g、Rokidの方は52gです。普通のメガネと比べると重いのですが、スマートグラスで中にいろいろ入っている中で、よくここまで軽量化できたなという評価です。
かけた時の視界の変化ですが、フレームが太いのと、目とレンズの距離が少し離れているので、結構視界の邪魔をします。普段使いは問題ないのですけど、車とか運転する場合は死角が結構できてしまうので、使わない方が良いと思います。私がメガネフレームを選ぶ基準というのが、視界にフレームとかが入らない、つまり視界を邪魔しないという基準で選んでいるので、そういった人がRokidのスマートグラスをつけると結構違和感があります。この視界の広さであったり死角ができる、そういった部分については今後改善してほしいです。重さの部分については、これよりさらに軽くするというのは技術的に難しいかとは思うのですけども、期待はしておきたいです。
ちなみに電池の持ちはあまり良くないです。これはバッテリーの容量が210mAhと低容量だからです。常に何かしらのアプリが動作している状態ですと、1日に何回か充電する必要があります。特にこの後紹介するような、電力の最適化されていない自作アプリを動作させる場合なんかは、電池の消耗が結構激しいです。ただ電池が切れたとしても、20分で80%まで電池を充電できますので、その点は救いとなってます。あとは充電しながら使える小型の電池もあるようなので、それも併用してみると良いと思います。
次はこのスマートグラスで使えるアプリの開発をしていきます。このスマートグラスに入っているOSなんですけど、YodaOSという、Rokidがスマートグラス向けにチューニングしたOSが入っています。なんですけども、YodaOS自体がAndroidをベースにしていますので、スマートグラス用に作ったアプリをこの中で動かすこともできます。実際に何か作ってみようというわけです。
アプリを作るためには開発者用のケーブルが必要だったので、それは別途入手しています。アプリ開発にはAndroid Studioなどの開発環境が必要ですが、AIのClaudeに全部お願いして、開発環境のセットアップから書き込みなんかも全て行ってもらいました。バイブコーディングというやつですね。
今回はデモも兼ねて3つアプリを作りましたので、それを紹介していきます。
まずは作ったアプリがちゃんとスマートグラス上で動作するのかを確認するために、Hello Rokidと表示するアプリを作りました。こちらです。しっかりと動作しています。これについてはまず問題ないと思います。
次は数学ソルバーというアプリを作ってみました。これはRokidのカメラで紙やディスプレイに映っている問題を解いてくれるというアプリです。問題を視野に入れて、フレームをタップして撮影します。この状態でもう1回タップすると、AIが問題を解析していますね。今画面に映っているように、どの問題を解くかというのが出ています。これスワイプするとこういうふうに問題を選ぶことができて、その問題を選んでタップすると、AIが問題を解き始めると。
例えばこちらは5のx乗の積分です。そうしますと答えが途中式付きで出るようになってます。一応この問題の答えは合っています。こんな感じですね。ちゃんと問題解けています。こちらの問題についてもしっかりと解けています。最後の問題、こちらも解いてみると、ちゃんとしっかりと答えが合っていることがわかります。なかなかすごいですよ。
今は不定積分の問題を解きましたが、積分区間が決まっているような問題も問題なく撮影することができます。今グラスの方に映っていますけども、ちゃんと答えが合っています。なかなかいいんじゃないですかね。
今の数学ソルバーがどのように動作していたかというと、カメラで撮影した画像をWi-Fiネットワーク経由で外部のAI、今回ですとClaudeですが、ClaudeのAPIに投げて問題を解析、解いてもらうということをしています。
このデモで言いたいことは、撮影した画像や映像をメガネの外のAIで処理することによって、できることの幅がかなり広がるということです。今回は数学の問題を解きましたが、カメラで鮮明に撮影ができてAIが内容を理解できるようであれば、数学以外の物理であったり英語であったり、そういった問題も解くことができます。
次はさらにリアルタイム性が重要なアプリも作ってみました。こちらの論破アシスタントというアプリです。スマートグラスにマイクが付いているので、会話をリアルタイムで文字起こしします。文字起こしした内容を外部のAIに解析してもらって、論破ストラテジーを考えてもらいます。返信内容はこのグラスにARで表示されます。相手からは見えていないので、AIの力を借りて優位に立ちつつ相手を論破できます。
というわけで実際に始めていきたいと思います。ディベートの議題は、きのこの山とたけのこの里、どちらがお菓子としての完成度が高いかです。あなたがきのこの山で、私がたけのこの里です。ではスタート、そちらからどうぞ。
了解です。きのこの山は手でつまんで食べやすいサイズ感、チョコとクラッカーのバランスが良くて、片手でさっと食べられる手軽さが強みです。それにチョコの部分とクラッカーの香ばしさのコントラストが、シンプルながら完成されているんですよ。つまり持ちやすい、食べやすい、味のバランスがいいっていう、日常のおやつとしての完成度が高いと思います。
持ちやすさって、たけのこの里の方が土台広くて安定しますよね。
そう見えるのはわかりますが、実際にはきのこの軸の部分が指にフィットして、つまんだときの安定感があるのです。それに土台がしっかりしてるから、机の上に立てておけるっていう地味な利点もあります。手に持ってよし、置いてよしっていう柔軟さがあるんですよね。
置いて楽しむのはお菓子の本質ですが、食べやすさの話とずれてませんか。
いい鋭い指摘ですね。確かにお菓子そのものって味や食感がやっぱり中心です。一方でお菓子の楽しみ方……
今見てきた通り、議論であったり対話、あとは論破ストラテジーなんかは割とうまく動いてはいるとは思うんですけど、文字起こしとその返答を考えるタイムラグが数秒ぐらいありまして、なかなか実用的とは言い難いです。文字起こしと論破ストラテジーの考える部分については、スマートグラスの外で行っているので、その部分でどうしても時間がかかってしまいます。
文字起こしの部分については、メガネ本体でのローカル処理でも対応は可能です。ただしRAM容量の制限で大きめのモデルを使うことはできずに、小さめのモデルを使わなければなりません。その影響で文字起こしの精度がかなり低くて、全然ダメダメな結果になってしまいます。今やっていたのは、外部のAIに文字起こしも依頼していました。このあたりについては、低消費電力で高性能なNPUを搭載した専用のSoCが出てくると、高速に処理ができて、さらに面白いことができるのではないかと思います。
このようにアプリ開発についても、結構いろいろできてしまうことがわかりました。
というわけでRokidのスマートAIグラスを使ってきました。スマートグラスってコンシューマー向けの製品かなとは思っていたのですが、今回やってみたようにアプリ開発なんかもできてしまいます。そうなると特定用途に合ったアプリを開発できるのであれば、B2B領域、製造業とか、そういったところとも相性がいいのではないかと思いました。
実用的な面で言うと、リアルタイム翻訳はかなり使えるということが分かりましたので、今後海外に行くときなんかはぜひ活用していきたいと思います。
スマートグラス自体は今後数年でさらに進化していくガジェット領域かと思いますので、継続的に追っていきたいと思います。興味のある人は概要欄のリンクから確認してみてください。
というわけで、もしこの動画が役に立ちましたら高評価をお願いします。何か気になることがありましたら、ぜひコメントも残してみてください。それでは最後まで動画のご視聴ありがとうございました。
記事公開
