Was ist freundliche KI?

Friendly AI ist ein Begriff, der von Forschern der künstlichen Intelligenz (KI) verwendet wird, um sich auf KI -Systeme zu beziehen, die im Allgemeinen Handlungen ausführen, die für die Menschheit und nicht neutral oder schädlich hilfreich sind.Dies bedeutet nicht, dass der blinde Gehorsam - im Gegenteil, der Begriff wird verwendet, um KI -Systeme zu beschreiben, die freundlich sind, weil sie es sein wollen, nicht aufgrund einer extern auferlegten Kraft.Neben der Verweise auf abgeschlossene Systeme ist die freundliche KI auch der Name der theoretischen und technischen Disziplin, die verwendet wird, um solche Systeme erfolgreich zu erstellen.

Der Begriff freundlicher KI stammt aus Eliezer Yudkowsky vom Singularity Institute for künstliche Intelligenz, dessen ZielIst die Schaffung von freundlichem KI intelligent genug, um seinen eigenen Quellcode ohne Programmierer -Intervention zu verbessern.Seine Buchung von Buchlängen zu diesem Thema: Die online veröffentlichte Erstellung von freundlicher KI, das 2001 online veröffentlicht wurde, ist wahrscheinlich die erste strenge Behandlung des Themas überall.Yudkowsky ruft Argumente aus der evolutionären Psychologie und anderer kognitiven Wissenschaften an, um seinen Ansatz zum Problem der freundlichen KI zu unterstützen.unter alternative Interpretationen gebunden, wenn die KI schlauer wird als Menschen oder einfach wenn sie die Fähigkeit erhält, sich selbst neu zu programmieren.Anthropomorphismus ist auch ein Problem in der KI.Da die Evolution Organismen aufbaut, die tendenziell egoistisch sind, gehen viele Denker davon aus, dass jeder KI, den wir bauen, die gleiche Tendenz haben, entweder sofort oder nach der Schlauheit.

Evolution baut Organismen mit egozentrischen Zielsystemen auf, da es keinen anderen Weg gibt.Altruistische Zielsysteme brauchten viele Millionen von Jahren, um sich weiterzuentwickeln, und dies taten dies nur unter Bedingungen, unter denen Mitglieder desselben Stammes viel zu gewinnen hatten, indem sie sich gegenseitig helfen und viel zu verlieren haben, indem sie dies versäumten.Aber wenn wir einen Geist von Grund auf neu gestalten würden, könnten wir ihn ohne ein egozentrisches Zielsystem bauen.Dies würde die KI nicht einschränken - sie würde einfach eine KI schaffen, die von Natur aus selbstlos ist.

Die obige Beobachtung ist eine von vielen, die zum Feld der freundlichen KI beitragen, was äußerst neu ist und immer noch viel Arbeit braucht.Einige KI -Forscher argumentieren, dass wir die Designmerkmale erst bestimmen können, die für die Implementierung einer freundlichen KI erforderlich sind, bis wir intelligenteren KI -Systemen zum Experimentieren haben.Andere argumentieren, dass ein rein theoretischer Ansatz nicht nur möglich, sondern auch ethisch notwendig ist, bevor ein ernsthafter Versuch der allgemeinen AI beginnt.