DA EDITORIAL
DEUTSCHES ÄRZTEBLATT
Rudolf Gross
Künstliche Intelligenz und ärztliches Handeln
Definitionen
Seit einigen Jahren werden wir mit aktueller und prospektiver Künstlicher Intelligenz (KI) in einem Maß überschüttet, daß sich schon die Ta- gespresse dieses Gebietes intensiv angenommen hat. Im DEUTSCHEN ÄRZTEBLATT vom 29.
März 1985 haben wir kritisch zu den damit zu- sammenhängenden Fragen, vor allem der Dia- gnostik, Stellung genommen und auch den sach- lichen (interessanterweise einzigen!) Leserbrief eines Anhängers solcher Informationssysteme abgedruckt (DA vom 12. Juni 1985). Die zuneh- mende und oft recht diffuse Diskussion, vor al- lem auch eine Expertenanhörung im Deutschen Bundestag, an der der Verfasser dieses Edito- rials teilnehmen konnte (Kommission: „Verant- wortung und Haftung beim Einsatz von Exper- tensystemen", 3. November 1988) läßt es ange- zeigt erscheinen, vor allem einige Definitionen zu geben, die künftigen Auseinandersetzungen als Basis dienen könnten. Selbst unter Sachver- ständigen wird der Begriff der „Künstlichen In- telligenz" — für die es heute schon Lehrstühle gibt — recht verschieden gebraucht.
Nimmt man die Hard- und Software aller derzeit verfügbaren Rechner zusammen, so schlagen wir — zur Vermeidung von Mißverständ- nissen — eine Gliederung der folgenden Art vor:
O Computer sind für Teilaufgaben in der Medizin, zum Beispiel für die Auswertung des Elektrokardiogramms mit den vereinfachten Frankschen Ableitungen (in den USA schon über Bildschirm abrufbar) oder in der klinischen Chemie seit langem eingesetzt (zum Beispiel 9).
Diese Art der Datenverarbeitung ist somit weder neu noch strittig Ähnliches gilt für den Zugriff zu Büchern, Zeitschriften oder anderweitig ge- speichertem Wissen.
$ Bestimmte Systeme, wie vor allem die bildgebenden Verfahren (zum Beispiel Sonogra- phie, CT, NMR) haben eine Vielzahl eigener Rechner, die digital ausgewertete Ergebnisse schließlich über Digital-Analog-Converter zu originalgetreuen Bildern zusammensetzen.
O In den 60er Jahren fingen mit Lusted, Ledley, Warner (Literatur u. a. bei 9) Versuche an, ganze Diagnosen oder — was nicht dasselbe ist (19) — Entscheidungen (zum Beispiel mittels Boolescher Algebra) im Ausschlußverfahren oder mit anderen Methoden zu ermitteln. Wir selbst haben das in kleinem Maßstab mit einer Kombination aus Statistik und Logistik eine Zeitlang für den hämatologisch-onkologischen Bereich versucht (20).
Bei rund 10 000 bis 20 000 Symptomen und etwa 40 000 Krankheiten und Syndromen, die wir in Übereinstimmung mit dem Semiotiker Leiber (15) annehmen, ist die maschinelle Diagnostik oder Entscheidungshilfe bisher nicht so recht ge- lungen. Das führte kürzlich zu einem boshaften Leserbrief im New Engl. J. Med., nach dem die Ärzteschaft immer noch auf die Erfüllung ihrer in den 60er Jahren erweckten Hoffnungen wartet.
Der gleichen Erfahrung darf man wohl die Zusi- cherung des amerikanischen Chirurgen Creech (3) von 1966 anfügen, nach dem bis 1990 die Ärzte im wesentlichen durch Computer-Ingenieure ab- gelöst seien. Unverändert sind die Erfahrung, die Intuition, Analogieschlüsse oder Induktion die Hauptquellen ärztlicher Entscheidungen (zum Beispiel 10). Nach Bailey (1) ist das eigene Ge- hirn weiterhin der beste und billigste Computer und wird dies in absehbarer Zeit bleiben.
• Daß wir hier mit praxisnahen und gut programmierten Expertensystemen wesentlich weiter sein könnten, ist in unserer Sicht unzwei- felhaft: Die Hauptgründe sind Festhalten an ein- gefahrenen Gewohnheiten, ein gewisses Miß- trauen, Entscheidungsfunktionen abzugeben, Kosten für finanzielle Investitionen. Soweit uns bekannt ist, läuft zur Zeit unter anderem in Pitts- burgh/Pen./USA ein erster Versuch mit vollcom- puterisierten Entscheidungen. Dafür eignen sich Krankenhäuser mit insgesamt 400 bis 700 Betten besser als sehr kleine oder sehr große Kranken- häuser (19). Derartige Systeme haben die Be- zeichnung HIS und MIS = „Hospital Informa- tion System" beziehungsweise „Medical Infor- mation System" erhalten.
Dt. Ärztebl. 86, Heft 15, 13. April 1989 (37) A-1029
Alles bisher Ausgeführte ist eine Art na- türlicher Weiterentwicklung, aber nicht die Re- volution der Künstlichen Intelligenz. Nach ei- nem ihrer Protagonisten, Feigenbaum (6), der den „Kopf der KI-ler in den Wolken, ihre beiden Beine fest auf dem Boden" sieht, ist Künstliche Intelligenz eine Art Imitation des Gehirns, ge- hört zur Künstlichen Intelligenz über ein festes Programm hinaus, daß der Rechner, heute aus der vierten oder fünften Generation mit zahlrei- chen parallel oder ständig arbeitenden Zentral- einheiten (siehe auch Düchting, DÄ vom 7. April 1988), Fehler erkennt, korrigiert und schließlich Ergebnisse entwickelt, die über die eingegebe- nen Programme hinausgehen. Dabei ist für das große Vorbild, das menschliche Gehirn, noch unklar, ob und wie parallele Vorgänge und se- quentielle Vorgänge (die leichter zu imitieren wären) stattfinden. Niemand kennt unseres Wis- sens bisher die übergeordnete Hierarchie.
Aus diesen und vielen anderen Gründen sollte man deshalb unseres Erachtens trennen zwischen Expertensystemen (abrufbaren, pro- grammierten menschlichen Erfahrungen) und Künstlicher Intelligenz, die nach der Art des Ge- hirnes neues schafft oder mindestens Fehler als solche erkennt und aus eigenem Vermögen her- aus korrigiert. Minsky (12, 13) sowie Feigen- baum (6), nach denen die nächste Computer-Ge- neration „die Welt verändern wird" (6), denken zum Beispiel daran, daß in 30 bis 50 Jahren durch Computer Bücher einer Bibliothek mitein- ander Verbindung aufnehmen und fundamenta- le Aspekte des Wissens austauschen.
Wenn wir von Künstlicher Intelligenz reden, sollten wir nicht Expertensysteme ansprechen, die zwar einen außerordentlichen Stand von An- wendungsmöglichkeiten erreicht haben, aber im Grunde nur das wiedergeben, was ihnen ein- programmiert wurde, sondern von Systemen sprechen, die Fehlerkorrekturen, Programmän- derungen usw. von sich aus vornehmen oder nicht vorgegebene Möglichkeiten entwickeln, wie zum Beispiel neue Ideen oder neue Ansätze bei alten Fragen.
Gerade über diese Grenzlinie eigener, nicht vorprogrammierter Leistungen hat sich in den USA - einem Vorreiter dieser Art von „High Tech" - ein Streit entwickelt, der auf beiden Sei- ten von namhaften Wissenschaftlern geführt wird. Er betrifft weniger eine durch Parallel- schaltungen, hochintegrierte Schaltkreise usw.
raffiniertere „Hardware", also die Computer, sondern die Möglichkeiten und Grenzen der
„Software", also die Programme Von den der- zeit auf dem Markt angebotenen „Praxiscompu- tern" - im Mittel zwischen 20 000 und 50 000
DM - ist etwa die Hälfte an eine programmierte Software gebunden, die Hälfte nicht. Vertreter der Künstlichen Intelligenz sind unter anderen der Nobelpreisträger Simon (16, 17), Minsky (12, 13), Winograd (22), Feigenbaum (6), Schank (18) - entschiedene Skeptiker die beiden Drey- fus (4, 5), Weizenbaum (21) und andere.
Argumente
für Künstliche Intelligenz
Die stärksten positiven Argumente gehen von der Betrachtung bisheriger Entwicklungen aus. Vergleicht man etwa noch Konrad Zuses Rechenmaschinen mit den heutigen Möglich- keiten, betrachtet man die immer raffinierteren Halbleiter, etwa in Form von Mikrochips, so sind weitere Imitationen des immer noch führenden Computers, des menschlichen Gehirns, denkbar.
Dies, obwohl die Zahl der Vernetzungen auch bei den leistungsfähigsten Computern noch nicht annähernd die eines menschlichen Gehirnes er- reicht. Nach einer neuesten Mitteilung von Koshland (23) besitzt das menschliche Gehirn etwa 10 12 Neuronen, von denen manche mehr als 10 000 Verbindungen zu anderen Neuronen ha- ben. Auch ist noch unklar, was in den Vorgängen des Zentralnervensystems parallel, in Schleifen oder nach der Art Neumannscher Maschinen se- riell abläuft (2) - eine Schlüsselfrage. Auch meinte der skeptische Weizenbaum - sozusagen vom Paulus zum Saulus zurückgekehrt -: „Wenn man darüber nachdenkt, welche psychologischen Ideen, die mit Denken zu tun haben, in den ver- gangenen zwanzig Jahren eingeführt wurden, ist die Antwort eher: Keine" (11). Simon (16) hat dazu in seinem umfangreichen Werk „Models of Thought" allerdings andere Vorstellungen ent- wickelt. Auch bestreiten die Gegner der Künst- lichen Intelligenz nicht, daß Menschen den Ma- schinen in manchen Funktionen unterlegen sind, wenn es zum Beispiel darum geht, Wahrschein- lichkeitsabschätzungen aufgrund neuer Fakten zu revidieren (5).
Moderne, diagnoseunterstützende Systeme sind etwa „Internist I" (14) oder „Reconsider", die zur Zeit an einigen amerikanischen Kranken- häusern erprobt werden.
Einwände
gegen die Künstliche Intelligenz
Den Philosophen Hubert L. Dreyfus und seinen Bruder, den Computerwissenschaftler Stuart E. Dreyfus, darf man wohl zu den größten A-1030 (38) Dt. Ärztebl. 86, Heft 15, 13. April 1989
Skeptikern einer Künstlichen Intelligenz rech- nen (4, 5). Sie haben zunächst zwei praktische Einwände:
• Die Zahl der möglichen, aber derzeit notwendigen Reduktionen ist ohne Verzerrung der Fragestellungen in unserer unstrukturierten und komplizierten Welt begrenzt. Andererseits ist die Situation bei sogenannten strukturierten Fragestellungen günstiger.
Q Die stete Ubung des Know-how, eine un- erläßliche Voraussetzung Künstlicher Intelli- genz, ist praktisch nicht möglich.
Vor allem aber scheint der menschliche Geist die Fähigkeit zu besitzen, Szenen (zum Beispiel Diagnosen, therapeutische Situationen, Melodien usw.) als Ganzes aufzufassen, ohne sie in einzelne Merkmale (zum Beispiel Töne) zu zerlegen. Darauf hatten wir in einem früheren Beispiel (DÄ vom 27. März 1985) anhand des Schachspiels hingewiesen, bei dem ein Großmei- ster zehn bis maximal dreißig Züge und Gegen- züge überlegt, während sich der Rechner mit tausenden von möglichen Entwicklungen, von denen ein großer Teil bedeutungslos ist, aber nicht als solcher erkannt wird, beschäftigt. Wich- tig für den Arzt ist besonders, daß sein Gehirn sich überall der aktuellen jeweiligen Fragestel- lung und den individuellen Patienten zuwendet, die zusammen mittels Künstlicher Intelligenz ei- nes ungeheuren und extrem redundanten Re- chenaufwandes bedürften und auch dann nicht die Individualität des jeweiligen Kranken erfas- sen würden.
Schlußfolgerungen
In Hardware und vor allem Software fortge- schrittene Computersysteme sollte man - etwa als Expertensysteme - scharf trennen von der das menschliche Gehirn ablösenden Künstlichen In- telligenz im engeren Sinn, also maschineller Ent- wicklung von Entscheidungen. Expertensysteme reichen von bibliographischen Vergleichen über differentialdiagnostische und differentialthera- peutische Angebote bis zur Auflistung möglicher Entscheidungen. Diese letzteren sind aber im- mer Hilfsmittel für die entscheidenden Ärzte.
„Man sollte sich nicht in nie dagewesener und potentiell gefährlicher Form auf automatische Systeme verlassen, ohne die davon betroffenen Menschen zu informieren und weitgehend an den diesbezüglichen Entscheidungen zu beteili- gen" (5).
Als Hilfsinstrumente sind Computerpro- gramme aus der vierten oder fünften Generation für bestimmte Teilgebiete der Medizin äußerst
wertvoll, manchmal (wie zum Beispiel bei den bildgebenden Verfahren) unerläßlich. Den „Pra- xiscomputer" mit oder ohne Anschluß an größe- re Zentraleinheiten, gibt es in der Medizin heute schon von zahlreichen Anbietern in der Größen- ordnung von 20 000 bis 50 000 DM. Diese „Pra- xishelfer" dürfen aber nicht mit der umstrittenen
„Künstlichen Intelligenz" verwechselt werden.
Literatur
1. Bailey, N. T.: The mathematical approach to Biology and Me- dicine. London, Wiley, 1967
2. Calvin, W. H.: The Brain as a Darwin Machine. Nature 330 (1987) 33
3. Creech, 0.: Ärztliche Versorgung im Jahre 1990. Medical Tri- bune 33 (1966)
4. Dreyfus, H. L.: Die Grenzen Künstlicher Intelligenz. Berkeley 1979, deutsch bei Athenäum 1985
5. Dreyfus, H. L., Dreyfus, St. E.: Künstliche Intelligenz. New York. Free Press 1986, deutsch bei Rowohlt 1987
6. Feigenbaum, E.: Die nächsten Computer werden unsere Welt verändern. „Welt", 31. 10. 1988: S. 11
7. Dude, R. 0.; Shortliffe, E. H.: Expert Systems Research, Science 220 (1983) 226
8. Epp, H.; Kahn, M.; Miller, D.: PC Software for Artificial Intel- ligence Applications. Science 240 (1988) 824
9. Gross, R.: Medizinische Diagnostik. Heidelberger Taschenbü- cher, Berlin, Springer 1969
10. Gross, R.: Eröffnungsrede 74. Tagung Deutsche Gesellschaft für Innere Medizin, 1978 (München, Bergmann)
11. Lütge, G.: Die unfehlbaren Idioten. „Zeit" 47 (1988) 3 12. Minsky, M. (Edit.): Semantic Information Processing, Cam-
bridge (USA) MIT Press, 1988
13. Minsky, M.: Artificial Intelligence, Sci. Am. 1966, 251 14. Myers, D.: Internist I, New Engl. J. Med. 307 (1982) 468, 473,
494
15. Leiber, B.: Persönliche Mitteilung, 1987
16. Simon, H. A.: Models of Thought, New Haven. Yale Univ.
Press, 1979
17. Simon, H. A.; Newell, A.: Heuristic Problem Solving. Operat.
Res. 6 (1958) 6
18. Schank, R. C.; Childers, P. G.: Die Zukunft der Künstlichen Intelligenz, deutsch Köln, DuMont 1986
19. Scherrer, J. R.: The expected usefulness of the Hospital Sy- stem to come. Meth. Inf. Med. 27 (1988) 51
20. Spechtmeyer, H.; Wichmann, H. E.; Gross, R.: Diagnostik- unterstützung bei inneren Erkrankungen mit Hilfe der EDV.
Ges. Med. Dokum. Statistik 1976
21. Weizenbaum, J.: Die Macht der Computer und die Ohnmacht der Vernunft. Deutsch Frankfurt, Suhrkamp 1977
22. Winograd, T.; Flores, F.: Understanding Computers and Cog- nition. Norwood, USA, Ablex Publ. Corp. 1986 und 1988 23. Koshland, D. E.: Editorial „Frontiers in Neuroscience". Sci-
ence 242 (1988) 641
Anschrift des Verfassers:
Prof. Dr. med. Dr. h. c. Rudolf Gross Herbert-Lewin-Straße 5
5000 Köln 41
Dt. Ärztebl. 86, Heft 15, 13. April 1989 (41) A-1033
