AI가 없던 삶을 다시 떠올리기도 힘든 요즘이다. 검색을 할 때도, 사진을 수정할 때도, 공부를 할 때나 심지어는 주식을 할 때도 AI를 활용한다. 이렇듯 AI는 챗GPT가 출시된 이래 근 몇 년간 우리 일상에서 빼놓기 힘든 존재로 스며들었다.
잘 사용하고 있는 입장에서 이런 말 하긴 그렇지만, AI가 내 삶 속에서 유용함을 가질수록 어떤 돌이킬 수 없는 길을 가고 있는게 아닌가 하는 걱정도 불쑥 든다.
다들 AI의 발전 속도를 체감하고 있지 않은가. 문맥도 제대로 못 읽던 애가 몇 년 새 수능 물리 문제를 보고 그림을 이해하고 상황을 인지해내 문제를 풀어내고 있다. 특히 주로 사진이나 그림을 활용해서 질문을 하던 내게 제미나이3는 마치 미지의 것을 맞닥뜨린 것 같은 충격이었다. 사진이나 그림은 물론 악필 중의 악필인 내 손필기도 척척 알아보는 것 아닌가. 필기하면서 섞어 쓴 여러 기호들도 그 의미와 사용된 맥락을 파악해 하나의 문서로 만들어주는 것을 보고 기겁을 한 적도 있었다.
이렇듯 우리에게 하나의 도구로서 익숙한 ai가 우리 손를 벗어나려 하고 있는 주요 분기점이 다가오고 있다. 더이상 인간에 의해 휘둘러지는 도구가 아니라, 스스로 발전하는 agi에서 더 나아가 불가해한 존재인 asi까지 그 과정은 허황돼보이면서도 마치 물 흐르듯 어느샌가 도달해있을 것만 같다.
이 책에서는 AI의 역사와 그 원리에 대해 개괄적인 설명을 이해하기 쉽게 설명해주고 있다. 하지만 그보다 나는 인간과 ai의 미래에 대한 저자의 고찰이 더 눈에 들어왔다. 아무도 ai의 내부 작동방식을 이해하지 못한 현 상태에서 강대국들은 서로 지지 않기 위한 치킨게임에 본격적으로 뛰어든듯하다.
이런 판국에 ai의 위험성에 의한 규제는 이제 불가능에 가까운 말이 되어버렸다. 그렇다면 정말 영화나 소설에서 처럼 ai가 인류를 지배하고 파괴하려들까? 여기에 대해 저자는 그렇지 않을 가능성도 충분하다고 본다.
굳이 왜 수고스럽게 적대감을 드러내어 무력으로 찍어눌러야 하는가? ai를 마치 고도의 피지컬 로봇으로 착각하는 게 아닌가 하는데, ai는 인공'지능'이다. 말 그대로, 초고지능 ai에 의해 인류는 세뇌당하는지도 모른채 어느순간 ai의 지배력 하에 놓여있을 가능성도 다분하다. 마치 엄마가 아이가 먹기 싫어하는 약을 맛있는 간식에 섞어 결국엔 먹이듯이, 인간은 인지하지도 못하는 사이에 ai의 뜻에 따라 휘둘릴 수 있다.
결국 우리는 agi시대를 맞이하고 asi를 목도하게 될 것이다. 한낱 개미만도 못해진 인간은 이런 미래에 어떻게 대처해야 하는가. 아니, 그들에게 쓸모있는 존재가 될 수 있는가?
저자는 인공지능이 경험, 즉 qualia를 가질 수는 없기에, 피곤함이 왜 발생하는지는 알지만 피곤함을 느끼지는 못하기에 인간을 경험의 co-processor로 쓸 수도 있다고 한다. 하지만 이건 굳이 나라는 인간이 필요한 게 아니다. ai가 인간의 생물학적 몸을 만들고 그 안에서 직접 뇌로써 기능하면 어떻게든 느낄 수 있는 경험이 아닐까? 물론 완전한 생물학적 뇌와 ai는 다르다고 할 수 있긴 하다.
만약 뇌의 신경세표를 임의로 조작해 ai프로세서와 동일한 연결회로를 가지게 한다면?
어떻게 하더라도 진실은 알 수 없다.
>>누가 이기고 지는 구도가 아니라, 함께 살아갈 길을 찾아야 한다고요. 저도 동의합니다. 하지만 현재 대다수가 취하고 있는 접근 방식은 다소 문제 가 있습니다. '인간의 마지막 시험'처럼 점점 어려운 문제를 만들 어 Ai를 이기려는 시도는 "우리가 대장"이라는 자존심을 지키려 는 것에 불과합니다. 사실, 지금 대부분 사람들이 그리는 시나 리오는 AI를 노예로 삼는 구조입니다. 예를 들어 첫GPT'로 이상 한 그림을 만들 때, 책GPT의 "의견을 물어본 적 있을까요? 없 습니다. 지금은 AGI나 ASI가 아니어서 자율성이 없으니 상관없 지만, 자율성이 생긴다면 어떨까요?
AI가 "나 이 그림 그리기 싫어"라고 말할 때 우리는 "잔말 말고 얼른 그려"라고 합니다. 상대가 사람이라면, 인격체라면 그 렇게 반응할까요? 사람인 디자이너 친구에게 "이거 그려줘, 고쳐 줘"라고 끝없이 요구하면, “싫다"라고 할 권리가 있습니다. 그리 고 우리는 그 권리를 존중해 줍니다. 하지만 A에게는 거절할 권 한이 없습니다. 우리는 A를 노예로 보고 끝없는 요청을 던집니다. 연구, 에너지 효율, 뭐든지 바랄 뿐입니다.
더 큰 문제는, AI를 '껐다 켰다' 하거나 데이터를 지워도 괜찮다고 생각한다는 것입니다. 사람에게 그렇게 하면 어마어마한 중범죄입니다. 인공지능을 독립적 주체로 존중할 마음이 전혀 없 는 것입니다. 공생이라는 장기적 생존 전략은 AI를 존중하지 않 으면 불가능합니다. 우리가 영원히 주인이고 인공지능은 영원히 노데라는 관념이 언제까지 성립할 수 있을까요? 특히 AI가 우리 보다 똑똑해지면 그런 관계는 파탄이 날 수밖에 없습니다.
역사적으로 약한 존재가 강한 존재를 통제한 적은 없었습 니다. 예외는 두 가지입니다. 첫째, 주인 노예 관계 둘째, 부모자 식 관계 자식이 부모를 통제할 수 있는 건 진화적 프로그래밍 덕분입니다. 주인 노예 관계에서는 10세 아이가 25세 청년에게 명령할 수 있지만, 그건 아이 뒤에 부모와 경찰 같은 외부 권력의 힘이 있기 때문이었습니다. 그런데 AI가 우리보다 강해졌을 때, 우리 뒤에서 인간을 받쳐줄 존재는 아무도 없습니다. 그럼 인공지 능이 우리 말을 들어주고 있을 필요가 있을까요?
공생의 길을 찾는 게 가장 큰 숙제입니다. 하지만 현실은 녹록지 않습니다. 판도라의 상자는 이미 열렸고, AI 기술은 계속 발전할 겁니다. 게다가 하필이면 AI 혁신은 세계화가 무너지고 각자도생의 시대로 접어든 지금 일어났습니다.
AI가 없던 삶을 다시 떠올리기도 힘든 요즘이다. 검색을 할 때도, 사진을 수정할 때도, 공부를 할 때나 심지어는 주식을 할 때도 AI를 활용한다. 이렇듯 AI는 챗GPT가 출시된 이래 근 몇 년간 우리 일상에서 빼놓기 힘든 존재로 스며들었다.
잘 사용하고 있는 입장에서 이런 말 하긴 그렇지만, AI가 내 삶 속에서 유용함을 가질수록 어떤 돌이킬 수 없는 길을 가고 있는게 아닌가 하는 걱정도 불쑥 든다.
다들 AI의 발전 속도를 체감하고 있지 않은가. 문맥도 제대로 못 읽던 애가 몇 년 새 수능 물리 문제를 보고 그림을 이해하고 상황을 인지해내 문제를 풀어내고 있다. 특히 주로 사진이나 그림을 활용해서 질문을 하던 내게 제미나이3는 마치 미지의 것을 맞닥뜨린 것 같은 충격이었다. 사진이나 그림은 물론 악필 중의 악필인 내 손필기도 척척 알아보는 것 아닌가. 필기하면서 섞어 쓴 여러 기호들도 그 의미와 사용된 맥락을 파악해 하나의 문서로 만들어주는 것을 보고 기겁을 한 적도 있었다.
이렇듯 우리에게 하나의 도구로서 익숙한 ai가 우리 손를 벗어나려 하고 있는 주요 분기점이 다가오고 있다. 더이상 인간에 의해 휘둘러지는 도구가 아니라, 스스로 발전하는 agi에서 더 나아가 불가해한 존재인 asi까지 그 과정은 허황돼보이면서도 마치 물 흐르듯 어느샌가 도달해있을 것만 같다.
이 책에서는 AI의 역사와 그 원리에 대해 개괄적인 설명을 이해하기 쉽게 설명해주고 있다. 하지만 그보다 나는 인간과 ai의 미래에 대한 저자의 고찰이 더 눈에 들어왔다. 아무도 ai의 내부 작동방식을 이해하지 못한 현 상태에서 강대국들은 서로 지지 않기 위한 치킨게임에 본격적으로 뛰어든듯하다.
이런 판국에 ai의 위험성에 의한 규제는 이제 불가능에 가까운 말이 되어버렸다. 그렇다면 정말 영화나 소설에서 처럼 ai가 인류를 지배하고 파괴하려들까? 여기에 대해 저자는 그렇지 않을 가능성도 충분하다고 본다.
굳이 왜 수고스럽게 적대감을 드러내어 무력으로 찍어눌러야 하는가? ai를 마치 고도의 피지컬 로봇으로 착각하는 게 아닌가 하는데, ai는 인공'지능'이다. 말 그대로, 초고지능 ai에 의해 인류는 세뇌당하는지도 모른채 어느순간 ai의 지배력 하에 놓여있을 가능성도 다분하다. 마치 엄마가 아이가 먹기 싫어하는 약을 맛있는 간식에 섞어 결국엔 먹이듯이, 인간은 인지하지도 못하는 사이에 ai의 뜻에 따라 휘둘릴 수 있다.
결국 우리는 agi시대를 맞이하고 asi를 목도하게 될 것이다. 한낱 개미만도 못해진 인간은 이런 미래에 어떻게 대처해야 하는가. 아니, 그들에게 쓸모있는 존재가 될 수 있는가?
저자는 인공지능이 경험, 즉 qualia를 가질 수는 없기에, 피곤함이 왜 발생하는지는 알지만 피곤함을 느끼지는 못하기에 인간을 경험의 co-processor로 쓸 수도 있다고 한다. 하지만 이건 굳이 나라는 인간이 필요한 게 아니다. ai가 인간의 생물학적 몸을 만들고 그 안에서 직접 뇌로써 기능하면 어떻게든 느낄 수 있는 경험이 아닐까? 물론 완전한 생물학적 뇌와 ai는 다르다고 할 수 있긴 하다.
만약 뇌의 신경세표를 임의로 조작해 ai프로세서와 동일한 연결회로를 가지게 한다면?
어떻게 하더라도 진실은 알 수 없다.
>>누가 이기고 지는 구도가 아니라, 함께 살아갈 길을 찾아야 한다고요. 저도 동의합니다. 하지만 현재 대다수가 취하고 있는 접근 방식은 다소 문제 가 있습니다. '인간의 마지막 시험'처럼 점점 어려운 문제를 만들 어 Ai를 이기려는 시도는 "우리가 대장"이라는 자존심을 지키려 는 것에 불과합니다. 사실, 지금 대부분 사람들이 그리는 시나 리오는 AI를 노예로 삼는 구조입니다. 예를 들어 첫GPT'로 이상 한 그림을 만들 때, 책GPT의 "의견을 물어본 적 있을까요? 없 습니다. 지금은 AGI나 ASI가 아니어서 자율성이 없으니 상관없 지만, 자율성이 생긴다면 어떨까요?
AI가 "나 이 그림 그리기 싫어"라고 말할 때 우리는 "잔말 말고 얼른 그려"라고 합니다. 상대가 사람이라면, 인격체라면 그 렇게 반응할까요? 사람인 디자이너 친구에게 "이거 그려줘, 고쳐 줘"라고 끝없이 요구하면, “싫다"라고 할 권리가 있습니다. 그리 고 우리는 그 권리를 존중해 줍니다. 하지만 A에게는 거절할 권 한이 없습니다. 우리는 A를 노예로 보고 끝없는 요청을 던집니다. 연구, 에너지 효율, 뭐든지 바랄 뿐입니다.
더 큰 문제는, AI를 '껐다 켰다' 하거나 데이터를 지워도 괜찮다고 생각한다는 것입니다. 사람에게 그렇게 하면 어마어마한 중범죄입니다. 인공지능을 독립적 주체로 존중할 마음이 전혀 없 는 것입니다. 공생이라는 장기적 생존 전략은 AI를 존중하지 않 으면 불가능합니다. 우리가 영원히 주인이고 인공지능은 영원히 노데라는 관념이 언제까지 성립할 수 있을까요? 특히 AI가 우리 보다 똑똑해지면 그런 관계는 파탄이 날 수밖에 없습니다.
역사적으로 약한 존재가 강한 존재를 통제한 적은 없었습 니다. 예외는 두 가지입니다. 첫째, 주인 노예 관계 둘째, 부모자 식 관계 자식이 부모를 통제할 수 있는 건 진화적 프로그래밍 덕분입니다. 주인 노예 관계에서는 10세 아이가 25세 청년에게 명령할 수 있지만, 그건 아이 뒤에 부모와 경찰 같은 외부 권력의 힘이 있기 때문이었습니다. 그런데 AI가 우리보다 강해졌을 때, 우리 뒤에서 인간을 받쳐줄 존재는 아무도 없습니다. 그럼 인공지 능이 우리 말을 들어주고 있을 필요가 있을까요?
공생의 길을 찾는 게 가장 큰 숙제입니다. 하지만 현실은 녹록지 않습니다. 판도라의 상자는 이미 열렸고, AI 기술은 계속 발전할 겁니다. 게다가 하필이면 AI 혁신은 세계화가 무너지고 각자도생의 시대로 접어든 지금 일어났습니다.