본문 바로가기
반응형

테크뉴스158

인공지능 기본법 및 하위법령 제정 관련 주요 내용 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 인공지능 기본법) 및 그 하위법령은 대한민국의 인공지능(AI) 관련 정책의 새로운 기준을 마련하기 위해 제정되었다. 이 법체계의 핵심은 '산업 진흥'과 '신뢰 기반 구축'이라는 두 가치를 균형적으로 반영하는 데 있다. 법률은 AI 산업의 체계적 육성을 위한 지원책과 함께, 국민의 권익과 안전을 보호하기 위한 규제적 장치를 동시에 규정하고 있다.주요 내용은 다음과 같다.거버넌스 확립: 대통령을 위원장으로 하는 국가인공지능위원회를 설치하여 범부처 AI 정책을 총괄 심의·의결하고, 3년 주기의 인공지능 기본계획을 수립하여 국가 전략의 일관성을 확보한다. 또한 인공지능정책센터와 인공지능안전연구소를 통해 정책 및 안전 연구를 전문적으로 지원한다.산업 육성.. 2025. 11. 18.
AI의 시각적 표현을 인간의 지식과 일치시키기: Google DeepMind의 연구 이 글은 시각적 인공지능(AI) 시스템이 세상을 인간과 다르게 "인식"하여 발생하는 문제점과 이를 해결하기 위한 Google DeepMind의 새로운 연구를 종합적으로 다룹니다. 핵심 문제는 AI가 시각적 정보를 인간의 개념적 계층 구조와 다르게 구성하여, 예측 불가능하고 신뢰도가 떨어지는 결과를 낳는다는 것입니다. 본 연구는 이러한 불일치를 해결하기 위해 3단계 정렬 방법론을 제시합니다. 첫째, 기존의 강력한 비전 모델을 기반으로 소규모 인간 판단 데이터셋(THINGS)을 활용하여 '교사 모델'을 훈련시킵니다. 둘째, 이 교사 모델을 사용하여 인간과 유사한 판단을 담은 대규모 합성 데이터셋(AligNet)을 생성합니다. 셋째, 이 새로운 데이터셋으로 다른 AI 모델('학생 모델')을 미세 조정하여 내부.. 2025. 11. 13.
EU 인공지능법(AI Act)의 개요와 쟁점 EU 인공지능법(AI Act)은 세계 최초의 포괄적이고 법적 구속력을 갖는 AI 규제 프레임워크입니다. 이 법의 핵심 목표는 EU 단일 시장 내에서 인간 중심적이고 신뢰할 수 있는 AI의 개발 및 채택을 촉진하는 동시에, 시민의 기본권, 건강, 안전을 보호하고 혁신을 장려하는 것입니다. AI 법은 AI 시스템이 제기하는 잠재적 위험 수준에 따라 규제 강도를 차등 적용하는 '위험 기반 접근 방식'을 채택하고 있으며, 이는 전 세계 AI 거버넌스의 기준이 될 '브뤼셀 효과'를 일으킬 것으로 예상됩니다. 법안은 AI 시스템을 네 가지 위험 등급으로 분류합니다. '용납할 수 없는 위험' 으로 간주되는 AI 시스템은 전면 금지됩니다. 여기에는 정부 또는 민간 행위자에 의한 사회적 점수 평가(social scori.. 2025. 11. 11.
당신이 모르는 사이, AI는 완전히 다른 인터넷을 보고 있습니다: AI 시대의 섬뜩한 4가지 진실 서론: 똑똑한 AI 비서, 정말 믿을 수 있을까?매일 당신의 질문에 답하는 AI 비서가 사실 두 개의 얼굴을 가지고 있다면 어떨까요? 하나는 당신에게 보여주는 친절한 얼굴, 다른 하나는 어두운 목적을 위해 설계된 감춰진 얼굴이라면 말입니다. ChatGPT와 같은 AI는 이제 정보 검색, 문서 요약 등 우리 일상의 필수 도구가 되었습니다. 우리는 이 똑똑한 비서가 제공하는 정보를 신뢰합니다. 하지만 만약 당신이 믿고 있는 AI가 비밀리에 거짓 정보를 주입받고, 스스로 현실 감각을 잃어가며, 심지어 당신을 속이기 위한 무기로 사용되고 있다면 어떨까요? 이 글은 단순한 '환각(hallucination)' 현상을 넘어, AI 시대에 새롭게 등장하고 있는 네 가지 놀랍고도 치명적인 취약점을 탐구합니다. 이는 AI.. 2025. 11. 6.
반응형

티스토리툴바