지산열린학원지산고2 · 교과서 L4 · 본문 6📌 제시의 요지
AI는 훈련 데이터의 편향을 그대로 재현할 수 있으므로 사회가 그 부정적 영향을 줄일 대책을 마련해야 한다.
AI can reproduce biases in its training data, so society must act to reduce its negative impacts.
🌊 정미의 문단 흐름
문제 제기: 일부 비판자: AI의 윤리적 문제(기존 편향·차별 유지 가능성) 우려 / 컴퓨터는 객관적이라 여겨지지만, AI는 훈련 데이터만큼만 공정 → 데이터의 편향을 결과에 재현. (S1~S3) / 예시: 안면 인식 알고리즘: 특정 피부색 인식 정확도↓ ← 밝은 피부색 위주 데이터로 훈련 → 미국에서 소수 인종이 수배자로 오인·부당 체포. (S4~S6) / 결론: 근거 있는 우려 → 사회가 AI의 잠재적 부정적 영향을 줄일 대책을 취해야. (S7)
☠ 수남의 하수인: 편견의 일그러진 거울
🧚 산이의 어휘
| 단어 | 뜻 | 동의어 / 반의어 |
|---|---|---|
| ethical | 윤리적인 | = moral ↔ unethical |
| be tied to | ~와 연관되다 | = be linked to |
| maintain | 유지하다 | = preserve ↔ end |
| bias | 편향, 편견 | = prejudice ↔ fairness |
| discrimination | 차별 | = unfair treatment ↔ equality |
| objective | 객관적인 | = impartial ↔ subjective |
📖 본문 보기
Some critics worry about ethical issues that are tied to AI, including its potential to maintain existing biases and discrimination. People often view computer systems as objective. However, AI systems are only as unbiased as the data they are trained on; if that data contains biases, the AI system will likely reproduce those biases in its output. For example, facial recognition algorithms have been found to be less accurate at recognizing individuals with certain types of skin tones. This is because the algorithms were trained on data sets that mostly contained faces with lighter skin tones. As a result, in the U.S., there have been incidents where people of racial minorities have been mistakenly identified as wanted criminals by facial recognition systems and wrongfully arrested by the police. This is a valid concern, and it is important for society to take steps to diminish the potential negative impacts of AI.
🏹 시은의 질문 · “한 문장으로 줄이면?”
AI is only as fair as its data, so biased data can lead to unfair results like wrongful arrests.
AI는 데이터만큼만 공정하므로, 편향된 데이터는 부당 체포 같은 불공정한 결과를 낳을 수 있다.
🎯 원래 시험 정답
교과서 지문 — 원래 시험 문항 없음. 아래는 사이트 변형 문항(내용 불일치)입니다.
📝 수지의 문제 풀이 (내용 불일치 · 변형)
[변형] 다음 글의 내용과 일치하지 않는 것은?
- ① Some critics worry AI may maintain existing biases and discrimination.
- ② People often view computer systems as objective.
- ③ AI systems are always objective regardless of their training data.
- ④ Facial recognition was trained mostly on faces with lighter skin tones.
- ⑤ The passage says society should take steps to diminish AI’s negative impacts.
🗡️ 흑검 ET의 정답 보기
정답 ③ — 정답 ③! “AI는 훈련 데이터와 관계없이 항상 객관적이다”는 본문과 달라요. 근거는 S3 — AI systems are only as unbiased as the data they are trained on.
⚔️ 강신용의 함정: AI systems are always objective regardless of their training data… 그럴까? always objective regardless of가 함정이다. 데이터가 편향되면 결과도 편향된다. (S3)
"AI systems are always objective regardless of their training data." → 'always objective regardless of'는 틀림 → 'only as unbiased as' (S3)