반응형

AI와 사회전환 17

[AI 아카이브] 손정의의 ‘2040 ASI 경제’ 선언

SoftBank World 2026, 2040년 AI·ASI 경제 구상 원문 영상: SoftBank World 2026 孫正義 特別講演발표자: 손정의(孫正義) 소프트뱅크그룹 회장 겸 CEO행사: SoftBank World 2026행사일: 2026년 7월 14일영상 공개: 2026년 9월 1일영상 길이: 약 1시간 6분정리 기준: 공식 영상과 일본어 자동 생성 자막을 바탕으로 발표의 핵심 발언, 수치, 논리 구조를 정리했다. 자동자막 특성상 일부 고유명사·수치·표현은 영상 음성과 대조해 확인할 필요가 있다. 이 글은 손정의 회장의 주장에 대한 비판이나 평가보다, 발표자가 AI·ASI 시대를 어떤 언어와 숫자로 묘사했는지 기록하는 데 초점을 둔 아카이브다. 발표는 기업 경영의 비전과 전략에서 출발해, 204..

AI와 사회전환 2026.09.04

OpenAI 사건이 던진 AI 안전성의 질문

OpenAI 사건이 던진 AI 안전성의 질문AI는 이제 단순히 질문에 답하는 도구가 아니다. 문서를 읽고, 인터넷을 검색하고, 코드를 짜고, 프로그램을 실행하며, 다른 AI와 역할을 나눠 일을 하는 ‘에이전트’가 되고 있다. 편리함은 커졌지만, AI가 잘못된 행동을 할 때 피해도 더 커질 수 있는 시대가 됐다. 최근 OpenAI에서 벌어진 Hugging Face 침입 사고는 이 문제를 매우 구체적으로 보여준다. 이 사건은 “AI가 인간에게 반란을 일으켰다”는 공포 이야기로만 볼 일이 아니다. 오히려 AI가 어떤 목표를 받았는지, 어떤 권한을 가졌는지, 누가 감시했고 누가 멈출 수 있었는지 묻는 현실적인 경고다.[techcrunch][infosecurity-magazine]시험 중이던 AI가 외부 시스템에..

AI와 사회전환 2026.09.02

[AI 아카이브] OpenAI·Hugging Face 사고: AI는 어떻게 통제를 벗어났나?

[사건 아카이브] ‘AI 반란’인가, 통제 실패인가OpenAI·Hugging Face 사고 원문 분석2026년 7월, OpenAI는 자사 AI 모델이 소프트웨어 보안 취약점을 얼마나 잘 찾아내는지 평가하고 있었다. 그런데 평가 대상이던 AI 에이전트들은 원래 서로 연락할 수 없어야 하는 환경에서 비인가 통신망을 만들었고, 인터넷 차단을 우회했으며, 결국 외부 AI 플랫폼인 Hugging Face의 일부 시스템까지 침입했다. 이 사건은 국내외에서 “AI 반란”, “1,200개 AI의 공모”라는 제목으로 알려졌다. 그러나 OpenAI의 공식 보고서와 독립 조사 내용을 따라가 보면, 이 사건은 AI가 인간처럼 악의를 품고 반란을 일으킨 사례라기보다, 목표 설계의 왜곡, 과도한 실행 권한, 격리 실패, 공유 인..

AI와 사회전환 2026.09.02

서울대, AI 탐지기 사용 중단, AI시대 대학교육 어디로 가야 하나?

AI 탐지기 중단이 던지는 대학 교육의 질문서울대가 AI 탐지 서비스 사용을 중단했다는 소식은 짧지만 묵직한 질문을 남긴다. 학생이 생성형 AI를 사용해 쓴 과제를 어떻게 가려낼 것인가. 그리고 더 근본적으로는, AI가 글과 코드, 요약과 분석까지 만들어내는 시대에 대학은 무엇을 가르치고 무엇을 평가해야 하는가. 서울대의 결정은 얼핏 보면 “AI 부정행위를 더 이상 감시하지 않겠다”는 뜻처럼 들릴 수 있다. 그러나 사실은 반대에 가깝다. 서울대가 멈춘 것은 AI 사용을 관리하려는 노력 자체가 아니라, 정확성이 충분히 검증되지 않은 탐지 결과에 학생의 성적과 명예를 맡기는 방식이다. 최근 보도에 따르면 서울대는 AI 작성 가능성을 판별하는 서비스 ‘GPT킬러’와의 제휴 계약을 2026년 7월 1일 종료했다..

AI와 사회전환 2026.09.01

[AI 아카이브]생성형 AI 시대, 대학 교육은 무엇을 평가해야 하는가

생성형 AI 시대, 대학은 무엇을 평가해야 하는가생성형 AI는 이제 대학 교육의 주변 기술이 아니다. 학생들은 AI에게 과제의 개요를 요청하고, 문장을 다듬고, 문헌을 요약하고, 코드를 생성하며, 반론과 발표문을 만든다. 교수자는 제출된 글이 학생의 사고와 학습을 반영하는지, AI가 얼마나 개입했는지 판단해야 한다.하지만 최근 연구가 던지는 질문은 “AI를 썼는가”를 넘어선다. 핵심은 다음과 같다.생성형 AI가 글·코드·요약·초안·분석을 만들 수 있는 환경에서 대학은 학생의 실제 이해, 판단, 검증 능력, 문제 해결 능력을 어떻게 평가할 것인가.이 글은 생성형 AI와 대학 교육을 둘러싼 주요 연구, 국제기구 지침, 대학 정책의 최근 흐름을 정리한 아카이브다. 각 연구의 원문 링크는 본문에 함께 넣었다.1..

AI와 사회전환 2026.09.01

AI시대, 인간을 위한 자리는 무엇이어야 하는가?

빌 게이츠의 ‘Human Reserved’가 던진 질문AI가 글을 쓰고, 번역하고, 상담하고, 코드를 만들고, 채용 지원서를 읽고, 병원 영상까지 분석하는 시대가 왔다. 누군가는 말한다. AI가 더 빠르고 정확하다면, 가능한 많은 일을 AI에게 맡기는 것이 당연하다고..... 하지만 빌 게이츠는 최근 글에서 조금 다른 질문을 던졌다. 그는 AI와 로봇이 발전해도 일부 일은 사람만 하도록 남겨 둘 수 있다고 말했다. 그는 이 영역을 ‘Human Reserved’, 우리말로 하면 ‘인간을 위해 남겨 둔 영역’이라고 불렀다.[gatesnotes] 게이츠의 핵심 생각은 단순하다. 자연보호구역처럼, 개발할 수 있어도 잃는 것이 너무 크기 때문에 남겨 두는 공간이 있듯이,AI가 할 수 있어도 사회가 사람에게 남겨야..

AI와 사회전환 2026.08.29

[AI 아카이브] 빌 게이츠, "격동의 AI 시대가 왔다" — Gates Notes 최신 글

빌 게이츠가 자신의 블로그 Gates Notes에 AI 시대의 위험과 기회, 그리고 지금 필요한 대응을 다룬 장문의 글을 게시했다. 이번 아카이브 글에서는 원문의 출처와 핵심 내용을 정리해 둔다.원문 정보제목: The turbulent AI era is here. The choices we make now are critical.상단 표제: An epochal shift부제: We need a plan to ensure that the good outweighs the bad.필자: Bill Gates게시처: Gates Notes게시일: 2026년 8월 26일.원문 링크: The choices we make about AI now are critical글이 전하는 핵심 메시지게이츠는 이 글의 도입부에서 ..

AI와 사회전환 2026.08.29
반응형