- 인공지능에 대해 제대로 알게 되면 최소한 3일 밤을 뜬 눈으로 세우게 될 것이다.
- 낯설고 생소한 이 기술이 멀지 않아 모든 것을 바꾸어 놓을 것이라는 생각이 확연해진다.
- 세상을 바꿀 근본적인 변화가 시작됐다.
- 미래가 어떻게 바뀔지 누구도 정확히 말할 수 없다는 사실은 다시금 깨닫게 된다.
- 2022년 11월 첫 GTP가 출시되었다.
- AI에게 물어보면 되는데 굳이 많은 사람 앞에서 남의 이목을 끌 필요가 있겠는가?
- 학생들이 제출한 에세이의 문법이 갑자기 완벽해졌다.
- 협상 같은 비즈니스 기술을 가르치는 정교한 학습 시뮬레이션,
- 공동 지능(Co-intelligence)
- AI는 전문가들이 법률 기술이라고 부르는 범주에 속한다.
- 범용 기술은 증기기관이나 인터넷처럼 한 세대에 한 번 개발될 법한 큰 발전으로 산업과 산업의 모든 측면에 영향을 미친다.
- 만일 이 문장을 쓰는 순간에 AI 개발이 중단된다 해도 AI 기술은 여전히 우리 삶을 완전히 바뀌어 놓을 것이다.
- AI는 코딩에서 마케팅까지 다양한 업무의 생산성을 20~80%로 개선시켰다. 증기력이 공장에 투입되면서 증가한 생산량은 18~22% 정도였다.
- AI라는 이름은 1956년 MIT 컴퓨터 공학자 존 메카시가 처음 만든 용어다.
- AI훈련에는 레이블 데이터가 필요하다. 레이블 데이터는 주어진 작업의 정답이나 결과 값이 주석으로 달린 데이터를 말한다.
- 모르는 줄 모르는 일, Unknown unknown.
- 구글의 연구진이 2017년에 발표한 이 논문은 트랜스포머라는 새로운 아키텍처다. 이는 텍스트에서 가장 관련성이 높은 부분에 집중할 수 있어서, 한층 인간적인 방식으로 언어를 이해하고 처리할 수 있다. 텍스트 조각을 분석해서 그 다음에 나올 토큰이 있는 단어나 단어의 일부를 예측하는 식으로 작동한다.
- 2026년쯤에 온라인 서적이나 학술 논문 같은 양질의 문화 콘텐츠가 고갈될 것으로 추정된다.
- AI가 데이터에서 편견, 오류, 허위 정보를 학습하기도 한다.
- AI는 윤리적 기준이 없기 때문에 돈을 횡령하거나 살인을 저지르거나 온라인에서 누군가를 스토킹하는 방법에 대해서도 거리낌 없이 조언할 수 있다.
- 대다수 LLM은 사전 학습 이후 미세 조정이라 불리는 추가적인 개선을 거친다.
- 인간 피드백 기반 강화 학습 RLHF(Reinforcement Learning from Human Feedback)
- 이미지 생성 AI 모델은 텍스트를 학습하는 것이 아니라 그 그림에 관한 설명이 추가된 수많은 이미지를 분석하면서 학습한다.
- 단어는 시각적 개념과 연관 짓는 법을 익힌다. 그런 다음 구식 TV의 스노우 노이즈처럼 보이는 임이의 배경 이미지에서 시작해서, 확산이라고 불리는 과정을 통해 여러 단계에 걸쳐 영상 작업을 점진적으로 정제하여 선명한 이미지로 바꾼다.
- 2022년 말에 오픈AI에서 개선된 버전인 GTP 3.5를 발표했다.
- 사전 학습에서 해당 데이터를 접해서, 사실상 오픈북으로 모든 시험을 치렀다.
- AI가 어떤 일을 할 수 있는지, 그리고 인간이 생활하고 배우며 일하는 방식에 어떤 변화를 몰고 올 것인지 실용적인 측면에 초점을 맞춰야 한다.
- RLHF 과정은 AI가 자유주의적이고, 서구적이며, 친자본주의적인 세계관을 가지게 한다.
- 프롬프트 인젝션은 AI에게 어떤 결과를 내도록 조작하는 것이다. AI가 파일을 열거나, 웹을 검색하거나, 코드를 실행할 때 은밀히 AI에게 지시를 주입하는 식이다.
- AI를 탈옥하게 하는 것, 즉 정해진 기준 밖으로 유도하는 것도 가능하다.
- 제한 없이 개발된 AI 모델은 대단히 사실적인 콘텐츠를 사용자의 요구에 맞게 제한 없이 생성할 것이다.
- 실험 장비와 연결되어 화학 물질을 마음대로 사용할 수 있는 LLM은 스스로 화학 합성 실험을 구성하고 실행할 수 있다.
- 바이오 해커가 전문 AI의 도움을 받으면 전 세계적으로 유행하는 바이러스를 만드는 능력을 갖출지도 모른다.
- 과연 각국 정부가 자국의 AI 개발 속도를 늦춰 다른 국가가 주도권을 잡도록 내버려 둘 것인지 의문이 커지고 있다.
- AI 기업은 투명성, 책임, 인간의 관리, 관리 감독 같은 원칙을 기술 개발의 핵심으로 삼아야 한다
- 우리는 AI와 함께 하는 세상에 살고 있으며, 이는 AI와 함께 일하는 법을 이해해야 한다는 의미다.
- AI와 협업할 때 적용하는 원칙:
- 작업할 때 항상 AI를 사용하라.
- 인간이 주요 과정에 계속 개입한다.
- AI를 사람처럼 대하고 AI가 어떤 유형의 사람인지 그 성격을 부여해 주라
- 지금의 AI를 앞으로 사용하게 될 최악의 AI 라고 가정하라.
- 실행하는 모든 작업에 매일 AI를 초대해서 도움을 받도록 해라.
- AI와 늘 함께 하는 것이 AI를 이해하는데 도움이 된다.
- AI는 범용 기술이다
- AI의 들쑥 날쑥한 경계
- 당신이 잘 아는 업무에서 AI를 활용하는 방법에 관한 세계 최고의 전문가가 바로 당신이 될 기회를 제공한다.
- AI가 빠르게 확산됨에 따라 AI의 미묘한 차이, 한계, 능력을 잘 이해하는 사용자는 AI의 혁신적 잠재력을 최대한 발휘할 수 있는 독보적인 위치에 서게 된다.
- AI를 업무에 유용하게 활용하는 사람은 큰 영향력을 발휘할 것이다.
- 이제 AI라는 공동 지능이 생겼다. AI는 사고 과정의 동반자로서 우리가 더 나은 결정을 내릴 수 있도록 도울 것이다.
- 이제는 인간의 의사결정 능력을 새로운 방식으로 향상시킬 수 있는 시대가 됐다.
- 행동하지 않음으로서 잃는 것이 무엇인지 생각해 보아라.
- 직업으로나 개인적으로 도움을 주는 도구로서 AI를 활용할 수 있다.
- AI를 활용해 사고와 접근 방식이 한층 다양해지면 인간의 머리로는 떠올리기 힘든 혁신적인 해결책과 아이디어가 나올 수도 있다.
- 인간과 AI의 매끄러운 통합을 요구하는 미래에 더 잘 대비할 수 있게 된다.
- AI의 강정이나 약점은 우리 각자의 강점이나 약점과는 다를 수 있으니 이것은 오히려 상당한 자산이 된다.
- AI가 초래할 수 있는 문제점
- 첫 번째 문제는 데이터의 비밀 보호 문제다.
- 두 번째로 우려할 만한 문제는 의존성이다.
- 사람이 중요 과정의 일원이 되는 것, 다시 말해 휴먼 인더루프이다.
- LLM은 텍스트를 예측하는 기계다.
- AI의 페르소나를 정해줘라.
- 사용하고 있는 AI가 앞으로 사용될 최악의 AI가 될 것이다.
- 한때 인간만이 할 수 있다고 여겼던 많은 일들을 AI가 할 수 있게 될 것이다.
- AI는 소프트웨어처럼 행동하기보다 인간처럼 행동한다.
- AI를 사람처럼 대하라.
- AI는 지극히 인간적인 작업에 뛰어나다. 그래서 글을 쓰고, 분석하고, 코딩하고, 대화할 수 있다.
- AI도 인간처럼 실수를 저지르고, 거짓말을 하고, 그를듯하게 틀린 답을 내놓는다. 그리고 사람마다 강, 약점이 있듯이, AI도 종종 종류에 따라 각기 고유의 강점과 약점이 있다.
- AI는 정해진 페르소나에 맞춰 다양한 소득 수준의 과거 구매 활동을 반영해 답변을 조정하는 능력까지 선보였다.
- AI는 단순히 소비자의 역할만 하는 것이 아니다. 사람처럼 선입견을 품고 사람과 비슷한 도덕적 결론을 내리기도 한다.
- AI가 다양한 페르소나를 쉽게 취할 수 있다.
- 경제 실험, 시장 반응, 도덕적 판단, 게임 이론에 관한 연구와 더불어 AI가 아주 인간과 같은 행동을 할 수 있다.
- 작업할 때 항상 AI를 초대해라.
- AI의 물결에 가장 큰 영향을 받는 분야가 반복적인 일이 아니라 창의적인 일을 하는 작업이라고 주장했다.
- 작업할 때 AI를 초대하는 것은 혁신과 새로운 관점을 더하는 저렴한 방법이다.
- 업무 전반에서 시간 단축과 품질 향상이 확인되었다.
- AI에게 어떤 작업을 요청하고 그에 대한 코드를 작성하는 것을 “의도 기반 프로그래밍”이라고 한다.
- AI는 인류의 광범한 문화유산을 바탕으로 훈련되었기에 그 유산에 관한 지식이 있는 사람이 가장 잘 활용할 수 있다.
- AI에게 거의 모든 종류의 초안을 맡긴다.
- 챗GPT는 인간의 기술을 보완하는 역할이 아니라 인간의 노력을 대체하는 역할로 주로 사용한다.
- 문제는 공들여 쓴 것처럼 훌륭한 추천서를 AI도 만들어 낸다는 점이다.
- 우리는 AI로 문서를 만들어, AI가 분류한 편지함으로 보내고, AI로 응답하기 시작할 것이다.
- AI는 이전에 유용하고 의미 있는 많은 일을 무의미하게 만들 것이다. 그리고 지금까지 무의미한 일을 감춰왔던 허상도 벗겨낼 것이다.
- “AI가 자신의 일자리에 영향을 미칠 것인가” 가 사람들의 주 관심사이다. 그 대답은 “아마도 그렇다” 일 것이다.
- AI의 능력은 보수가 높고 창의성이 많이 필요하며 근로자의 교육 수준이 높은 직업과 가장 연관이 많다.
- 1위 직업은 텔레마케트
- 자동 안내 전화.
- 1016개의 직업 중에 AI와 중복되지 않는 직업은 단 36개에 불과하다. 그것은 무용수, 운동선수, 굴착기 운전사, 지붕공, 오토바이 정비사 등이다. AI와 겹치지 않는 직업이 주로 몸을 써서 일하고 공간 사이를 이동하는 능력이 필요하다.
- 직업은 보통 나눌 수 없는 하나의 개체가 아니다.
- AI도 들쑥날쑥한 경계 때문에 한 사람이 담당하는 모든 작업을 자동화할 수 없다.
- 이제 우리가 보고 듣고 읽는 것 중에서 AI가 만들지 않았다고 확신할 수 있는 것은 아무것도 없다.
- 정치인, 유명인, 전쟁에 관한 모든 이미지가 조작될 수 있으며, 이를 가려낼 방법은 없다.
- 대부분 번역 업무는 AI로 대체될 가능성이 높다.
- Flywheel, 차세대 AI를 개발하는 데 AI를 활용할 수가 있다.
- 모든 컴퓨터의 시스템은 AI 해킹에 취약해질 것이다.
- 강력한 AI가 보급되면 군대와 범죄자들은 AI를 활용해서 세력을 넓히기 시작할 것이다.
- 현재는 우리 삶의 많은 부분이 일에 편중되어 있는데 미래에는 여가를 의미 있게 보낼 새로운 방법을 찾아야 할 것이다.
- AI는 감시와 해고에 사용될 수 있다.
- AI는 외계 지성이지만, 동시에 상당히 인간적이기도 하다.
- AI가 혼자만의 정신이 아니라 공동 지능이다.
Published in 독서메모
