Разработчик создал программу, которая выступает посредником между глухонемым человеком и голосовым помощником Alexa

Разработчик из США создал программу, которая выступает посредником между глухонемым человеком и голосовым помощником Alexa. Система использует веб-камеру ноутбука, чтобы распознавать жесты, переводить их в голосовые команды для помощника, а полученные ответы выводить на экран в виде текста.

Принцип работы

Программа распознает жесты в реальном времени с помощью алгоритма глубинного обучения на фреймворке TensorFlow.js. Система синтеза речи озвучивает команды, колонка слышит их и дает голосовой ответ от компьютера, который алгоритм Сингха обрабатывает, затем преобразует в текст и выводит на экран.