친절한 AI는 무엇입니까?

friendly 친절한 AI i는 인공 지능 (AI) 연구원들이 일반적으로 중립적이거나 유해하기보다는 인류에게 도움이되는 행동을 수행하는 AI 시스템을 언급하기 위해 사용하는 용어입니다.이것은 맹목적 순종을 의미하지는 않습니다. 반대로,이 용어는 외부 부과력 때문이 아니라 친근한 AI 시스템을 설명하는 데 사용됩니다.완성 된 시스템을 언급하는 것 외에도 우호적 인 AI는 그러한 시스템을 성공적으로 만드는 데 사용될 이론 및 엔지니어링 분야의 이름입니다.프로그래머 개입없이 자체 소스 코드를 개선 할 수있을만큼 친절한 AI Smart의 생성입니다.2001 년에 온라인으로 출판 된 친절한 AI

를 만드는 주제에 대한 그의 책 길이 작품은 아마도 주제에 대한 최초의 엄격한 대우 일 것입니다.Yudkowsky는 친절한 AI의 문제에 대한 그의 접근 방식을 뒷받침하기 위해 진화론 심리학 및 기타인지 과학의 주장을 불러 일으 킵니다.대안 해석 하에서, AI가 인간보다 똑똑해질 때, 또는 단순히 자체 재 프로그래밍 능력을 얻을 때 붕괴해야합니다.AI의 인체 감소도 문제입니다.진화는 이기적인 경향이있는 유기체를 구축하기 때문에 많은 사상가들은 우리가 구축 한 모든 AI가 즉시 또는 똑똑해지면 같은 경향을 가질 것이라고 가정합니다. 진화는 다른 방법이 없기 때문에 자기 중심 목표 시스템을 가진 유기체를 구축합니다.이타적인 목표 시스템은 진화하는 데 수백만 년이 걸렸으며, 같은 부족의 구성원들이 서로를 도울 수있는 많은 것을 얻었고 그렇게하기 위해 소홀히함으로써 많은 것을 잃어 버릴 조건에서만 그렇게했습니다.그러나 우리가 처음부터 마음을 디자인한다면 자기 중심 목표 시스템 없이는 그것을 구축 할 수 있습니다.이것은 AI를 제한하지 않을 것입니다 - 그것은 단순히 본질적으로 비 이기적인 AI를 만들고있을 것입니다.

위의 관찰은 친절한 AI 분야에 기여하는 많은 사람들 중 하나이며, 이는 매우 새롭고 여전히 많은 작업이 필요합니다.일부 AI 연구자들은 실험 할 AI 시스템이 더 현명한 AI 시스템을 가질 때까지 우호적 인 AI를 구현하는 데 필요한 설계 기능을 결정할 수 없다고 주장합니다.다른 사람들은 전적으로 이론적 인 접근 방식이 가능할뿐만 아니라 일반 AI에서 진지한 시도를 시작하기 전에 윤리적으로 필요하다고 주장합니다.