Dieses Video mit englischer Beschreibung demonstriert die Übertragung in Echtzeit.
Man stelle sich einen Live-Video-Stream der Bundeskanzlerin vor: Man sieht sie auf dem Bildschirm sprechen, doch in Wahrheit schweigt sie vielleicht gerade – jemand anders steuert ihre Mundbewegungen täuschend echt. Genau das wäre theoretisch mit dem System möglich, das Forscher der Universität von Stanford, der Universität Erlangen-Nürnberg und dem Max-Planck-Institut (MPI) für Informatik gemeinsam entwickelt haben. Im November werden sie es auf der Computergraphik-Konferenz “SIGGRAPH ASIA” in Kobe (Japan) präsentieren.
Die Wissenschaftlerteams beschäftigen sich schon lange mit dem “Verstehen von Bildern” – mit der Herausforderung, dynamische Szenenmodelle von Videos zu erfassen. “Insbesondere geht es darum, Modelle aus Videodaten zu berechnen, um eine mathematisch, möglichst realitätsgetreue Beschreibung von starren, beweglichen, aber auch deformierbaren Körpern innerhalb einer Szene zu schätzen”, sagt Christian Theobalt vom MPI. Genau das scheint den Forschern nun mit ihrem System geglückt zu sein.
Gespenstisches Puppenspiel
Bei dem neuen Verfahren werden zwei Personen von Kameras gefilmt, die zusätzlich zu normalen Bildinformationen auch weitere Informationen erfassen: Sie vermessen darüber hinaus die Entfernung jedes Bildpunktes in den Szenen. Basierend auf diesen Daten entwickelt das System dann ein Gesichtsmodell beider Personen, so dass die Kopfgeometrie und weitere Gesichtsinformationen in einer mathematischen Beschreibung vorliegen. Danach werden Mimik und Lippenbewegung beider Personen analysiert und von einem Gesichtsmodell auf das andere übertragen, um sie im Zielvideo fotorealistisch darzustellen. Den Forschern zufolge ist dazu nicht einmal ein Hochleistungsrechner nötig: Die Algorithmen zur Berechnung sind so effizient, dass sie auf gut ausgestatteten Standardrechnern in Echtzeit ablaufen können.
“Grundsätzlich sind die Arbeiten als ein Baustein für Techniken zu verstehen, die es Computern ermöglichen, die bewegte Welt um sich herum zu erfassen, und mit vielen Anwendungen in der Robotik oder Augmented/Virtual Reality zu interagieren”, sagt Theobalt. Konkrete Anwendungsmöglichkeiten für ihr neues System sehen er und seine Kollegen in der visuellen Verbesserung von Synchronisierungen beispielsweise bei fremdsprachigen Spielfilmen: Mit dem Verfahren könnte man die Lippenbewegungen an die Synchronsprache angleichen.
