Um zu beweisen, daß der sogenannte Turing-Test weder über natürliche noch über künstliche Intelligenz etwas aussage, entwarf der Informatiker Joseph Weizenbaum Anfang der sechziger Jahre ein Sprachanalyse-Programm, das er nach der Pygmalion-Sage Eliza nannte. In diesem Fall übernahm der Computer die Rolle eines klassischen Psychotherapeuten, der mit einem Patienten ein Gespräch führt: Oft wiederholt das Programm eine Antwort in Frageform, gelegentlich fordert es weitere Informationen zu einem Begriff, den der Gesprächspartner geäußert hat.
Der Schuß ging nach hinten los: Das Experiment, das eigentlich die Unsinnigkeit des Turingschen Intelligenztests beweisen sollte, stieß bei Psychoanalytikern auf Begeisterung. Das Projekt einer nahezu automatisierten Psychotherapie wurde ernsthaft diskutiert. Des weiteren mußte Weizenbaum zu seinem Entsetzen feststellen, “wie schnell und wie intensiv Personen … eine emotionale Beziehung zum Computer herstellten und wie sie ihm eindeutig menschliche Fähigkeiten zuschrieben.” Schon damals wurde der vergleichsweise schlichten Technik die Fähigkeit beigemessen, menschliche Sprache verstehen zu können. Weizenbaum: “Diese Reaktionen auf Eliza haben mir deutlicher als alles andere bis dahin Erlebte gezeigt, welch enorm übertriebene Eigenschaften selbst ein gebildetes Publikum einer Technologie zuschreiben kann oder sogar will, von der es nichts versteht.”
Seither stehen sich zwei Fraktionen unversöhnlich gegenüber: Vertreter der Künstlichen Intelligenz behaupten, daß Maschinen Verhalten simulieren können, das man beim Menschen als “intelligent” bezeichnen würde. In der sogenannten starken KI-These heißt es sogar, daß Maschinen konstruierbar seien, die intelligent sind. Dagegen protestieren Philosophen und Naturwissenschaftler, die an den herkömmlichen Begriffen von Körper und Geist festhalten, und am Unterschied zwischen Geist und Software erst recht.
Auch wenn in Experimenten Computer als Dichter auftraten und ihre lyrischen Ergebnisse so überzeugend wirkten, daß Leser nicht feststellen konnten, ob der Verfasser aus Fleisch und Blut oder Silizium bestanden hat: Es taugt nicht als Beleg für Kreativität, sagt Weizenbaum: “Der Programmierer hat die Regeln gewählt, nach denen der Computer schreibt. Niemals könnte jemand sagen, daß der Computer eine gute Idee dabei gehabt hätte.” Der Maschine und damit dem Übermut ihrer Schöpfer sind naturgegebene Grenzen gesetzt, postuliert Weizenbaum: “Unsere menschlichen Fähigkeiten sind alles andere als formulierbar, geschweige denn als effektives Verfahren.”