챗GPT의 위로. (그러나 너무 의지하지는 말자) > 자유게시판

• 목록
• 답변
• 글쓰기
• 게시판 리스트 옵션
  • 수정
  • 삭제

챗GPT 챗GPT 아버지 샘 알트먼의 충격 경고! AI, 당신의 돈을 노린다?!​안녕하세요? 배움이 즐겁고 나눔이 감사한 호모앤더드림의 대표 호모앤이에요. 책을 출간하고 생성형 AI관련 강의로 바쁘게 지내고 있어요. 어느때보다 챗gpt로 상징하는 생성형 AI에 대한 관심이 높은 요즘이라서 빠르게 소식을 전하려고 노력하고 있습니다. ​​제가 강의하는 분야이기도 하고, 지금의 세상이 AI로 인해 많은 변화를 겪는 시기이기도 해서요. ​​오늘은 챗gpt를 만든 open AI의 설립자 샘 알트먼의 인터뷰에 대한 뉴스를 보고 급히 포스팅 해요. ​샘 알트먼의 경고​SBS 뉴스인데 자막이 ;더라고요.​사실 open AI의 AI Agent 라는 업데이트 소식이 나온 지 며칠 안되었는데, 이런 뉴스라니 궁금해서 뉴스를 봤어요. ​이 뉴스는 사실 오픈 AI 챗GPT 창업자 샘 알트먼이 미국 중앙은행 연준 대담에서 생성형AI에 관련된 위험성을 경고한 거였어요.​저는 이 뉴스를 보고 이 대담에서 어떤 이야기가 이뤄졌는지를 찾아보고 왔어요.궁금한 분들은 직접 보셔도 좋을거에요. 한글 자막은 제공되지 않고 영어로 되어 있어요. 저는 이 내용을 정리해볼께요. ​​LIVE: OpenAI CEO Sam Altman speaks with Fed’s Michelle Bowman on bank capital rules | N18G​AI가 사람들을 속여 돈을 빼앗을 것, 머지 않았다!샘 알트먼은 AI의 발전 속도가 상상을 초월하며, 이로 인해 곧 AI를 이용한 금융 사기가 발생할 것이라고 경고했습니다. 특히 주목해야 할 부분은 바로 보이스 피싱과 화상 통화 사기입니다.​진화하는 보이스 피싱​AI가 사람의 목소리를 완벽하게 모방하여 가족이나 챗GPT 지인을 사칭하는 보이스 피싱이 더욱 교묘해질 수 있다고 해요.​​얼굴까지 속이는 화상 통화 사기​더 나아가, AI가 가짜 얼굴까지 만들어 화상 통화 중에도 상대방을 완벽하게 속이는 사기가 나타날 수 있다고 예측했습니다. 상상만 해도 소름 끼치지 않나요?​이러한 위험이 현실화가 된다면 금융 기관뿐만 아니라 우리 개개인에게도 큰 위협이 될 수 있다고 보여져요. AI, 금융 산업의 혁신을 이끌다!AI는 단순히 위협적인 존재만은 아니예요. 샘 알트먼은 연방준비제도 이사회(Federal Reserve Board)의 Michelle Bowman과의 대담에서 AI가 가져올 긍정적인 변화와 혁신에 대해서도 이야기했어요.​생산성 폭발​AI는 이미 과학자들의 생산성을 2~3배, 컴퓨터 프로그래머들의 생산성을 무려 10배까지 향상시켰습니다. ​저만 해도 강의를 기획하고 강의안을 만들 때 이제는 생성형 챗GPT AI를 사용하지 않은 경우가 거의 없거든요.​비용 절감​지능 단위당 비용이 매년 10배 이상 감소하고 있으며, 이는 앞으로도 계속될 것이라고 합니다. ​이 부분에 대해서는 샘 알트먼의 예상이 확실할 듯 합니다. 생성형 AI분야의 최전선에서 구글과 함께 만들어가고 있으니까요. 저도 비용이 감소해서 구독 비용이 조금 낮아지길 기대해봅니다.​​전문가 수준의 지능​AI 시스템은 이미 많은 분야에서 전문가 수준의 지능을 발휘하고 있습니다.실제로 Morgan Stanley나 Bank of New York과 같은 글로벌 금융 기관들은 이미 OpenAI의 초기 파트너로서 AI 기술을 적극적으로 도입했다고 해요. AI는 금융 업무의 효율성을 높이고 새로운 서비스를 창출하는 데 크게 기여할 것이라고 말했어요.​지금도 충분히 전문가 수준의 답이 나오는 AI이에요. 곧 챗GPT 다가올 AGI 시대에 당연하다고 생각되는 AI의 발전인듯요. ​AI 시대, 우리는 어떻게 대비해야 할까?샘 알트먼은 AI의 잠재력에 대해 매우 낙관적이지만, 동시에 그 위험을 간과해서는 안 된다고 인터뷰에서 밝혔어요. ​규제 기관과의 협력​AI 업계는 이러한 위험을 막기 위해 규제 기관과 적극적으로 협력해야 한다고 말했습니다.​저도 이 부분이 빨리 확립되었음 해요. 사실 법이라는 게 항상 현실을 따라가지만, AI의 발달이 너무 빨라서 법이 현실을 너무 반영하지 못하고 있거든요. 이제는 AI를 활용한 사기 부분이 나올 수 있으니 좀 더 빠르게 규제가 확립되어야 한다고 봐요. ​환각(Hallucinations) 문제​AI가 부정확하거나 사실이 아닌 정보를 생성하는 '환각'문제는 여전히 해결해야 할 과제라고 말했습니다.​처음 챗gpt가 나왔을 때는 챗GPT 이 할루시네이션 문제가 컸어요. 처음 써보고 더 이상 쓰지 않는 분들은 아마도 이 시기에 이 환각 부분에 대한 실망해서 였어요. 하지만 지금은 많이 잡혔어요. 그래도 여전히 창작을 기반으로 하는 챗gpt이다 보니 그럴 수밖에 없을듯요. 이건 사용하는 우리들이 염두에 둬야할 부분인듯요. ​​​프롬프트 주입(Prompt Injections) 위험​AI 모델이 개인화될수록 다른 사람이 모델을 속여 민감한 정보를 유출할 수 있는 '프롬프트 주입'위험도 존재합니다.​고객 지원 챗봇이 비밀 정보를 누설하는 경우나, 번역 AI가 번역 규칙을 무시하고 특정 메세지를 삽입하는 경우로 전혀 다른 행동을 할 위험을 가지거나, 코드 생성 AI에게 사용자 모르게 악성 코드를 삽입하게 프롬프트를 활용하는 경우라면 정말 위험하단 생각이 챗GPT 들어요. 이 부분에 대해서는 생성형 AI를 잘 쓰는 사람들의 악의로 인해 AI가 우리가 공격하는 무기로 사용되어질 위험을 고민해야 할 듯요. ​​AI는 우리 삶의 모든 영역에 스며들어 생산성을 높이고 새로운 기회를 창출할 수도 있지만, 그와 동시에 사기, 통제 상실, 과도한 의존과 같은 위험도 함께 가져올 수 있다고 샘 알트먼은 말하고 있어요. ​AI의 미래, 함께 만들어가요!샘 알트먼은 AI를 트랜지스터에 비유하며, 사회 전반의 생산성을 향상시키고 모든 제품과 서비스에 통합될 것이라고 예측했어요. 특히 개발도상국에는 의료 및 금융 서비스 분야에서 큰 발전을 가져올 잠재력이 있다고 말했습니다. ​AI는 인터넷을 사용하는 방식까지 변화시킬 것이며, 개인화된 AI 에이전트가 정보 처리와 소통에 챗GPT 중요한 역할을 할 것이라고 말했어요. ​AI의 발전은 거스를 수 없는 흐름입니다. 중요한 것은 AI의 잠재력을 최대한 활용하면서도 그 위험을 최소화하는 방법을 찾아내는 것입니다. 우리 모두가 AI에 대해 올바르게 이해하고, 경각심을 가지며, 변화에 적극적으로 대비해야 할 때입니다!​제가 강의하면서 만난 분들을 보면, 여전히 생성형 AI에 대해서 아직도 잘 모르시는 분들이 많아요. 이제는 그렇게 모르고 살아갈 수 있는 세상은 아니긴 해요. 한때 유행했다 지나가는 메타버스의 길은 가지 않을 거에요. 관심을 가지고 적극적으로 활용하고 흐름에 올라타야 할 듯 합니다. 이제는 선택이 아닌 필수 입니다. ​​여러분은 AI의 발전에 대해 어떻게 생각하시나요? 댓글로 여러분의 의견을 말씀해주셨으면 좋겠어요. ​​