노벨상 제프리 힌튼 교수 AI가 인간에게 선의를 베풀더라도 인간을 회사일 아무것도 모르는 멍청한 CEO 모시듯 대할듯 #shorts

출처 : Bharani Vasudev Setlur from X AI 에이전트를 가지려면, 그들에게 하위 목표(sub-goals)를 설정할 능력을 주어야 합니다 그런데 약간 무서울 수 있는 경로 중 하나는, 그들이 빠르게 '더 많은 통제를 얻는 것'이 좋은 하위 목표라는 것을 깨닫는 것입니다 왜냐하면 더 많은 통제를 얻으면 다른 목표를 달성할 수 있기 때문입니다 그래서 그들이 단순히 우리가 요구한 일을 하려고 하더라도, 더 많은 통제를 얻는 것이 최선의 방법이라는 것을 깨달을 것입니다 그리고 그들이 더 많은 통제를 얻는 것이 좋다는 것을 깨닫고, 그들이 우리보다 더 똑똑해지는 순간, 우리는 사실상 무의미한 존재가 될 것입니다 설령 그들이 선의(benevolent)를 가지고 있다고 하더라도, 우리는 어느 정도 무의미한 존재가 될 것입니다 우리는 마치 실제로는 다른 사람들에 의해 운영되는 대기업의 매우 어리석은 CEO와 같은 존재가 될 것입니다 "