Amazon Chime SDK React Component Library のデモを動かしてみた件

こんにちは。研究開発室の岡田です。

今年に入ってからAmazon Chime SDK (JavaScript SDK)の紹介記事を何度か投稿してきました。

当時からAmazon Chime SDKはWebRTCの難しいところを隠蔽しており、使いやすいSDKでした。 これに加え、AWSは今年９月に、これを更にReactでラップしたAmazon Chime SDK React Component Libraryを発表しました。

aws.amazon.com

シンプルでありながらかっこいいアプリが開発できるということなので、 Amazon Chime SDKでもやったように、今回もデモを動かしてどのようなことができるのか見てみたいと思います。

Webworkerを使ってFaceSwapとバーチャル背景を同時に行う話。

こんにちは。研究開発室の岡田です。

前回は、Amazon Chime SDKを用いてPPTのスライドをバーチャル背景にしたビデオ会議を行う方法をご紹介しました。

cloud.flect.co.jp

前回ご紹介した方法は、AIの処理や画像の処理をブラウザ上で行うことで実現していました。 今回はこれらの処理をwebworkerを用いて実行する方法についてご紹介したいと思います。

webworkerを使うことで、重いAI処理や画像処理を複数並列実行できるようになり、fpsの改善をはかることができます。 例えば、次の様な加工をリアルタイムで実施できるようになります。

Some cool application with machine learning

研究開発室の馮 志聖(マイク)です。

First I will talk about some cool application on Tensorflow Lite.

Second I will talk about YOLACT: Real-time Instance Segmentation on ios.

Microsoft AzureでSpring Boot製バッチを動かすために（１）

こんにちは。クラウドインテグレーション事業部の上原です。

弊社では「クラウドインテグレーション」の名前の通り、様々なクラウドサービスを活用したシステムを提供しています。

www.flect.co.jp

私がいま参加しているプロジェクトでは、インフラとして
ググっても情報が出てこないことでおなじみ Microsoft Azureを採用しています。
このプロジェクトで新しくバッチアプリケーションを作成することになり、そのためのサービスや構成について色々と調査する機会がありましたので、今回はこちらを共有させて頂こうと思います。

Amazon Chime SDKでスライドをバーチャル背景に設定する

こんにちは。研究開発室の岡田です。

前回は、Amazon Chime SDKでビデオセッションの上限（16セッション）を超えて映像配信する実験をご紹介しました。

cloud.flect.co.jp

今回もAmazon Chime SDKについて、最近他のビデオ会議ツール等で話題になっていた機能を実現する方法をご紹介したいと思います。

今回ご紹介するのは、パワーポイントなどのスライドをバーチャル背景にする方法です。 最初に大きな話題になったのは、mmhmmでしたね。その後、Zoomでも同様の機能がリリースされました。リモートで行うプレゼンに臨場感が出て良いと思います。

これをAmazon Chime SDKを用いて実現する方法をご紹介します。 Amazon Chime SDK(js)を使うので、特にソフトウェアをインストールすることなく使えちゃいます！！ また、スライド以外にも、画面共有可能なウィンドウをすべて背景にすることができます。 なので、例えばエディタとスピーカーを表示しながらライブコーディング、なんてことも出来たりします。

実際の動作イメージはこちらです。

Amazon Chime SDK で16ビデオ通話セッションを超えてみる。

こんにちは。研究開発室の岡田です。

前回は、Amazon Chime SDKの新機能を使って作ったホワイトボード機能についてご紹介しました。

cloud.flect.co.jp

今回もAmazon Chime SDKについての話になりますが、少しトリッキーな使い方を実験をしてみたのでご紹介したいと思います。

具体的には、単一のSPA（Single Page Application）から複数の会議室に同時に参加できるかを実験しました。 これができれば、次のことが可能になると考えています。

• （オンラインセミナーなどで、）Amazon Chime SDKの会議室あたりの最大接続数を超える人数に向けた講義が可能になる。
• （オンラインセミナーなどで、）グループ単位で受講者のプライバシーを保護できる。

実験の結果、次のデモのように、単一のユーザ(登壇者)が複数の会議室に参加することで、会議室あたりのビデオ通話可能な最大ユーザ数(16名)を超えるユーザに対し、同時にビデオ通話ができることが確認できました。 また、登壇者以外の各会議室の参加者(受講者)間の会話や映像は他の会議室には伝わらないため、会議室間でプライバシーも保護することができます。 このデモでは登壇者が2つの会議室に参加することで、30名のユーザとビデオ通話しています。*1

*1:このデモでは、動画をダミーのカメラデバイスに流し込むことで30名のユーザ(受講者)を模擬している。

Social distance base on ARKit and CoreML

研究開発室の馮 志聖(マイク)です。

Introduction

Coronavirus is attacking the world.

Social distancing is very important.

What is social distancing?

In public health, social distancing, also called physical distancing, is a set of non-pharmaceutical interventions or measures intended to prevent the spread of a contagious disease by maintaining a physical distance between people and reducing the number of times people come into close contact with each other.

It typically involves keeping a certain distance from others (the distance specified may differ from time to time and country to country) and avoiding gathering together in large groups.

https://en.wikipedia.org/wiki/Social_distancing

Many company try to improve social distancing on technology.

One of them is Google.

Google release the tool name is Sodar.

Sodar - use WebXR to help visualise social distancing guidelines in your environment.

Using Sodar on supported mobile devices, create an augmented reality two meter radius ring around you.

sodar.withgoogle.com

This tool is interesting and useful for public health.

So I want to improve this idea.

And make it smart that the user can detect someone getting closer.

So I will create a tool it can detect the person and distance.

It use ios CoreML with ARKit.

And with New iPad Pro release from 2020.

New iPad Pro have LiDAR sensor.

LiDAR sensor is good for measure the distance.