한빛출판네트워크

이번에 리뷰하게 된 책은 'AGI의 시대, 인간을 초월한 인공지능, AGI를 논하다' 입니다.

AGI는 'Artificial General Intelligence', 모든 상황에서 인간을 뛰어넘을 수 있는 AI를 의미합니다.

책은 3부로 나뉘어져있습니다.

- 1부: AGI의 시대

- 2부: 얼라인먼트: 연구와 정책

- 3부: 정책적 대응

어느순간 AI가 삶 가까이 다가오는 것을 피부로 느끼고 있습니다. OpenAI의 샘 올트먼의 말처럼 4-5년 내 뒤 AI가 어떻게 발전할 지 더욱 궁금해집니다.

가까운 장래에 AGI를 구현할 수 있을 것이라고 주장하는 이들이 가진 근거 중 하나는 '스케일링 법칙'이라고 합니다.

스케일링 법칙이란, 더 많은 양의 연산 능력과 데이터를 사용하여 AI 모델을 학습 시키면 필연적으로 AGI에 도달할 수 있다는 내용입니다.

1부에서는 그럼에도 불구하고 해결해야할 문제가 많다고 말하고 있습니다. 계산적인 설명이 아닌 신경생리학적 설명이나 의도적 설명과 어떻게 관련되는지를 밝히는 것이 우선이라고 말합니다.

반대로 AGI를 달성하기 어려울 것이라고 이야기하는 사람들도 존재합니다.

대표적으로 얀 르쿤, 스티븐 핑커, 최예진 교수, 게리 마커스 교수 등의 이야기를 다루고 있습니다.

AGI는 레벨0부터 레벨5로 구분할 수 있습니다.

사진은 딥마인드가 제안한 AGI의 레벨 기준입니다.

OpenAI는 다른 방식으로 레벨을 정의하고 있다고 합니다. 현재 기술은 레벨1에 있으며 레벨2 Reasoners를 도달하기 직전이라고 평가합니다.

레벨3 Agents는 액션을 취할 수 있는 시스템, 레벨4 Innovators는 발명을 도와줄 수 있는 혁신가, 레벨5 Organizations 는 조직의 일을 할 수 있는 수준으로 정의하고 있다고 합니다.

레벨 5가 되면 AGI가 저를 대신하여 일을 해주는 시대가 되지 않을까 싶습니다.

1부의 2장에서는 AGI의 위험에 대해서 이야기 합니다.

장점만 있을 수는 없기에 단점에 대한 내용도 다루고 있습니다.

내용 중에는 'AI로 인한 인류 멸종 위기에 대한 논쟁'도 다루고 있습니다.

2부는 얼라인먼트(alignment)에 대한 내용을 다룹니다.

얼라인먼트는 인간의 가치에 일치하는 판단을 하도록 AI 시스템을 어떻게 만들 것인가 하는 문제를 말합니다.

즉, 인간이 원하는 일을 AI가 하도록 만드는 것을 의미합니다.

다만 얼라인먼트의 대한 연구는 아직 기초적인 영역에서도 불완전하며, 어떤 ㅜㅁㄴ제를 풀어야 하는지도 다 알지 못한다는 내용으로 마무리하고 있습니다.

3부는 AI에 대한 정책에 대한 내용을 다룹니다.

'AI 안전과 통제를 위한 주요 국가의 정책 및 국제협력' 이라는 내용으로 7부를 시작합니다.

캘리포니아 법 SB 1047 및 영국 및 유럽의 협력들을 다루며 이야기 합니다.

책 내용 전체적으로 AGI를 어떻게 다룰 것인가에 대한 내용을 담고 있습니다.

시간이 지나서 AGI의 시대가 오더라도 그때를 대비하기 위한 움직임들을 말이죠.

이 책은 AGI 시대가 와서 우리의 삶이 어떻게 변할지, 우리는 어떤 대비를 해야할 지를 고민해볼 수 있게 해주는 책이었습니다.

한빛미디어 < 나는리뷰어다 > 활동을 위해서 책을 제공받아 작성된 서평입니다.

4년 차 프론트엔드 웹개발자의 시각에서 이 책을 읽으며 느낀 점을 공유하고자 합니다.

AGI의 개념과 현재 기술과의 비교
AGI는 특정 작업에 국한되지 않고 인간과 유사한 수준의 지능을 갖춘 인공지능을 의미합니다. 현재 우리가 사용하는 AI는 주로 특정 업무에 특화된 '좁은 인공지능(Narrow AI)'으로, 예를 들어 음성 인식, 이미지 분류, 추천 시스템 등이 이에 해당합니다. 반면, AGI는 이러한 특정 업무를 넘어 다양한 문제를 인간처럼 이해하고 해결할 수 있는 능력을 지향합니다. 이러한 AGI의 등장은 기술 산업 전반에 걸쳐 큰 변화를 예고하며, 특히 웹 개발 분야에서도 새로운 도전과 기회를 가져올 것입니다.

프론트엔드 개발에 미치는 영향
AGI의 발전은 프론트엔드 개발자에게도 다양한 영향을 미칠 것으로 예상됩니다

자동화의 확대: 코드 작성, 디버깅, 최적화 등의 작업이 AGI를 통해 자동화될 수 있습니다. 이는 개발 생산성을 높이는 동시에, 개발자의 역할을 재정립하게 만들 것입니다.

사용자 경험의 혁신: AGI를 활용하여 사용자와의 상호작용을 더욱 자연스럽고 직관적으로 설계할 수 있습니다. 예를 들어, 사용자 입력에 대한 실시간 이해와 반응, 개인화된 콘텐츠 제공 등이 가능해질 것입니다.

새로운 기술 스택의 등장: AGI와의 통합을 위해 새로운 프레임워크나 라이브러리가 등장할 수 있으며, 이에 대한 학습과 적응이 필요할 것입니다. (React.js, Vue.js의 끝도 언제 날지 모른다는 사실.)

윤리적 고려사항
책에서는 AGI의 발전에 따른 윤리적 문제도 강조하고 있습니다. 개발자로서 우리는 기술의 발전이 사용자와 사회에 미치는 영향을 고려해야 하며, 특히 AGI의 경우 그 파급력이 매우 클 것으로 예상됩니다. 따라서 AGI 시스템의 투명성, 공정성, 책임성 등을 고려한 개발이 중요합니다.

개인적인 소감
이 책은 AGI에 대한 기술적 설명뿐만 아니라, 사회적, 윤리적, 철학적 관점에서의 논의도 풍부하게 담고 있어, 기술 개발자로서 시야를 넓히는 데 큰 도움이 되었습니다. 특히, AGI가 가져올 미래에 대한 다양한 시나리오와 그에 따른 준비 사항을 생각해보게 되어 매우 유익했습니다.

결론

『AGI의 시대』는 프론트엔드 개발자를 포함한 모든 기술 종사자들이 미래를 대비하는 데 있어 한 번쯤은 읽어볼만 할 책입니다. AGI의 개념부터 그에 따른 사회적 영향까지 폭넓게 다루고 있어, 기술의 발전 방향을 이해하고, 이에 맞춰 자신의 역량을 개발하는 데 큰 도움이 될 것입니다.

이 책을 통해 AGI에 대한 깊은 이해와 함께, 다가올 미래에 대한 준비를 시작하시길 바랍니다.

"한빛미디어 <나는리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

AGI(Artificial General Intelligence, 범용 인공지능)는 단순히 기술의 진보로 끝나는 문제가 아니다. AGI의 시대는 그 도래가 불가피한 미래라면, 우리가 어떤 선택을 해야 하는지에 대해 깊이 있는 통찰을 제시한다.

AGI의 가능성과 도전

현재 우리가 사용하는 AI는 특정 작업에 특화된 도구, 즉 좁은 인공지능이다. 하지만 AGI는 다르다. AGI는 인간처럼 새로운 지식을 스스로 학습하고, 다양한 문제를 해결하며, 예상치 못한 상황에서도 창의적인 판단을 내릴 수 있는 능력을 갖춘다.

책은 "AGI가 단순히 더 빠르고 정확한 계산기를 넘어선 존재가 될 수 있는가?"라는 근본적인 질문을 던지며, 이에 따라 과학계와 사회가 직면하게 될 철학적 도전을 상세히 분석한다.

AGI가 그리는 두 가지 미래

밝은 미래

AGI는 인간의 창의성과 생산성을 극대화하며, 새로운 도약의 기회를 제공한다.
질병 치료의 혁신적인 발전, 자원 배분 문제의 해결, 예측하지 못했던 사회적 진보

위험한 미래

하지만 AGI는 동시에 우리가 감당할 수 없는 도전도 함께 가져올 수 있다.
인간의 일자리를 대체, 사회 구조의 붕괴, 잘못된 설계로 인한 돌이킬 수 없는 결과

특히, 책에서 언급된 "싱귤래리티(Singularity)" 개념은 기술이 인간을 초월하는 순간을 뜻한다. 그 시점에서 인간은 AGI를 통제할 수 있을까? 아니면, 통제의 주도권을 잃게 될까?

포용적 인공지능을 향하여

책은 기술적 혁신뿐 아니라 윤리적 책임에 대해서도 강조한다. 인간의 이익을 중심에 두는 AI, 즉 "포용적 인공지능"이 중요한 이유다.
AI 설계와 개발 과정에서 인간의 가치를 최우선으로 고려, 의사결정 과정에서 투명성과 책임성을 강화

AGI는 단순히 "더 똑똑한 기계"가 아니라, 인간과 공존하며 상호작용해야 할 동반자라는 점에서 윤리적 고민은 더욱 절실하다.

우리의 선택이 미래를 결정한다

책은 이렇게 말한다. "AGI의 시대는 이미 시작되었다. 이제 중요한 것은 우리가 무엇을 선택하느냐다."

우리에게 주어진 시간은 길지 않다. AGI의 잠재적 이익과 위험을 이해하고, 기술 개발의 방향을 신중히 설계하지 않는다면, 그 결과는 예측 불가능할 것이다.

AGI의 시대는 우리에게 묻는다. 당신은 어떤 미래를 선택할 것인가?