AI 윤리 전문가로서의 경력 또는 직업 기회

스포트라이트

비슷한 제목

인공지능 윤리 전문가, 인공지능 윤리 컨설턴트, 인공지능 윤리 책임자, 인공지능 윤리 기준 분석가, 인공지능 정책 및 윤리 고문, 인공지능 거버넌스 전문가, 인공지능 책임 개발 관리자, 인공지능 윤리 의사 결정 컨설턴트, 인공지능 윤리 및 규정 준수 책임자, 인공지능 윤리 프레임워크 개발자.

작업 설명

인간은 결함이 있고 편향된 상반된 감정의 묶음입니다. 우리는 항상 잘못된 결정을 내리고 그 과정에서 종종 자신이나 다른 사람에게 상처를 주기도 합니다. 그렇다면 사람들이 우리처럼 생각하고 행동하는 인공 지능 프로그램을 만들려고 하면 어떤 일이 벌어질까요?

AI는 어린아이와 같아서 좋은 것이든, 나쁜 것이든, 추한 것이든 우리가 소통하는 모든 것을 흡수합니다. 우리가 AI 모델에 입력하는 대부분의 데이터에는 인간의 의견, 선호도, 편견이 담겨 있습니다. 하지만 우리는 AI의 결과물, 즉 응답이 객관적이고 논리적이며 편견이 없기를 기대합니다.

We want AI to be somehow better than us. How is that possible? Unlike a child, artificial intelligence isn’t truly sentient. It can’t (yet) really think for itself or recognize when it is doing something “wrong.” Case in point, Microsoft’s Bing AI, which went rogue and started “insulting people, lying to them, and even emotionally manipulating people.”

Such problems are becoming widespread, but are addressed by a growing field of specialists called AI Ethicists. As Deloitte explains, “A key responsibility of an AI ethicist…would be to improve the engineering approach to AI by adding ethical, social, and political perspectives to the design, development, and deployment of AI systems. Other key responsibilities include advising on ethical AI practices, protecting against unintended consequences of misbehaving AI, and ensuring accountability for AI-related decisions and actions.”

경력의 보람있는 측면

사람들에게 더 나은 서비스를 제공하기 위한 AI 시스템 개선 지원
다양한 방식으로 삶을 개선할 수 있는 잠재력을 지닌 혁신적 산업에서 일하고 있습니다.
매력적인 급여와 현재 높은 취업 전망

인사이드 스쿱

직무 책임

근무 일정

AI 윤리 담당자는 풀타임으로 근무하며, 목표와 기간에 따라 초과 근무가 필요할 수 있습니다. 업무는 주로 실내에서 수행하지만 가끔 출장이 필요할 수도 있습니다.

일반적인 의무

책임감 있는 AI(RAI) 사례 및 도구의 생성, 평가 및 구현
RAI와 관련된 조직의 준비 상태 평가
팀과 협력하여 AI 모델 개발 시 윤리적 고려 사항을 통합하세요.
사용 사례 및 시스템에 대한 윤리 분석 수행
편견, 개인정보 보호, 자율성 등 다양한 윤리적 문제를 분석합니다.
학술 연구 수행 및 연구 결과를 요약한 논문 작성
AI 개발 및 배포를 위한 윤리적 프레임워크 개발
정책 입안자와 이해관계자에게 윤리적 영향에 대한 지침 및 교육 제공
표준 및 모범 사례 개발 지원
AI 모델이 확립된 윤리적 원칙과 가치에 따라 작동하도록 보장합니다.

추가 책임

RAI 프로젝트에 대한 상담
교육 자료 작성
여러 부서로 구성된 팀과 협력하여 문제 해결
절차에 대한 철저한 문서화 유지
업계 발전과 트렌드에 대한 최신 정보 확인

직업에 필요한 기술

소프트 스킬

적응성
분석
합작
의사소통 기술
창조성
비판적 사고
디테일 지향
징계
공감
윤리
독립의
무결성
조직적
조직
환자
프레젠테이션 기술
문제 해결
건전한 판단
팀워크
시간 관리
글쓰기 기술

기술 능력

머신러닝 알고리즘, 자연어 처리, 컴퓨터 비전을 포함한 AI 기술에 대한 지식
데이터 분석 방법 및 프로그램
코딩에 대한 일반적인 지식(예: Python 또는 R)
데이터 개인정보 보호법 및 규정 숙지
사이버 보안 원칙
인간 중심 디자인 원칙
AI 시스템 위험 평가

다양한 유형의 조직

개인 비즈니스 기업
AI 연구 기업
대학

기대와 희생

AI 윤리 전문가의 업무 범위는 매우 광범위할 수 있습니다. 윤리 프레임워크와 가이드라인을 만들고, AI 모델이 윤리적인 방식으로 작동하도록 철저하고 객관적인 평가를 수행하는 일을 담당합니다. 여기에는 많은 학제 간 협력이 필요하며 때로는 의견 불일치나 갈등이 발생하기도 합니다.

As Dr. Paula Boddington of the University of West London notes, AI ethics “demands that we continue to question if our ethical decisions are right.” An AI Ethicist must maintain their integrity and stand firm while identifying what they believe are ethical risks, such as biased or discriminatory AI model behavior. They have to be honest and sometimes tell policymakers and stakeholders things they might not want to hear.

현재 동향

AI such as ChatGPT and Google’s Bard have recently made waves with their impressive array of abilities. Indeed, many tech leaders are now sounding the alarm that things are advancing too fast, without sufficient guardrails to protect the public or businesses.

예를 들어, 인공 지능 프로그램의 저작물을 누가 '소유'하는지에 대한 저작권 관련 문제가 있습니다. 인공지능 윤리학자들은 또한 인공지능이 실수로 보호되는 개인 데이터를 공개하는 등 우발적인 민감한 정보 공개에 대해 잠 못 이루는 밤을 보내기도 합니다.

Many career fields are jeopardized because of the onslaught of sophisticated generative AI models, but this is only one of many fears being raised. There are also valid concerns about bizarre AI behavior, such as Bing’s AI going into “obsessive stalker” mode. Such harmful content is only the tip of the iceberg when it comes to what can go wrong with AI. There’s no shortage of nervous doomsday prophets who view AI as an existential threat to humanity, a la Skynet from The Terminator films!

이 직업에 종사하는 사람들은 어렸을 때 어떤 종류의 일을 즐겼습니까?

AI Ethicists were probably keen on technology at an early age. They may have been interested in math, computer coding, tinkering with programming languages, or even hacking. At the same time, they could have enjoyed analytical problem-solving or reading about philosophy, social issues, or public policy.

팀워크는 이 직업 분야에서 중요한 부분이지만, AI 윤리학자는 때때로 의견 충돌이 있을 때 기꺼이 유일한 반대 목소리를 내야 합니다. AI의 윤리적 행동을 보장하는 것이 이들의 임무입니다. 옳은 것을 옹호하는 이러한 능력은 어린 시절의 경험을 통해 발달할 수 있습니다.

교육 및 훈련 필요

필요한 교육

AI 윤리 전문가가 되려면 대학 학위가 필요하지만, 직무 자격 요건은 다양합니다. 모든 AI 윤리 전문가 직무에 적용되는 특정 학위나 학위 수준(예: 학사, 석사, 박사)은 없습니다.
인기 있는 학위 옵션은 철학, 컴퓨터 과학, 법학, 심리학, 사회과학입니다.
고급 학위를 소지하는 것도 도움이 될 수 있지만, 폭넓고 관련성 있는 교육 배경을 갖추는 것도 중요합니다.

예를 들어, 고용주는 컴퓨터 공학 학사(AI 전공)와 철학 석사(응용윤리 또는 도덕철학 전공)를 가진 지원자를 원할 수 있습니다.

또한 고용주는 AI 개발, 정책 결정, 연구와 관련된 실무 경력을 갖춘 지원자를 찾습니다. 자연어 처리, 머신 러닝, 대규모 언어 모델에 대한 경험도 원할 수 있습니다.
일반적인 코스 주제는 다음과 같습니다:

AI와 정책
AI와 사회
AI 윤리 및 철학
인간과 AI의 상호작용
AI의 법적 문제

Students can also learn programming languages like Python on their own or through classes
Class Central offers details on a range of free AI Ethics online courses
Also check out courses and certification offerings from Coursera, such as its Artificial Intelligence: an Overview Specialization

Deloitte points out the difficulties in finding a candidate with all the necessary qualifications. “Trying to find one person with credible experience and knowledge in all these areas is practically impossible. Instead, companies should take a team approach to AI ethics, achieving the required multi-disciplinary capabilities and experience by learning how to seamlessly orchestrate and integrate insights from a variety of specialized experts.”

대학에서 찾아야 할 것들

먼저, 어떤 전공을 하고 싶은지 결정하세요. 철학과 컴퓨터 과학이 인기 있는 전공입니다.
학교의 AI 윤리 관련 강좌를 살펴보세요.
AI 윤리 직무에 가장 적합한 교육을 맞춤화할 수 있는 이중 또는 복합 학위 프로그램(학사 및 석사 과정을 함께 이수)을 고려하세요.
프로그램 졸업생의 취업 통계를 확인하세요.
수업료, 할인 및 지역 장학금 기회 비용을 고려하십시오 (연방 지원 이외에)
캠퍼스 내 프로그램, 온라인 프로그램 또는 하이브리드 프로그램에 등록할지 여부를 결정할 때 자신의 일정과 유연성을 고려하세요!

고등학교와 대학에서해야 할 일

Sign up for computer science, programming, English, writing, debate, rhetoric, philosophy, business law, social sciences, and public policies classes
팀워크, 프로젝트 관리, 문제 해결, 갈등 해결에 대한 기술을 쌓을 수 있는 방법을 찾아보세요.
Take online AI-related courses from Coursera, Udemy, Microsoft, DeepLearning.AI, and other sites
NLP, ML, LLM 및/또는 프로그래밍과 관련된 아르바이트를 통해 실제 경험을 쌓으세요.
이력서 작성을 시작하고 업무 경험을 배우고 쌓으면서 이력서에 추가하세요.
채용 공고를 미리 검토하여 평균 요구 사항이 무엇인지 확인하세요. AI 윤리 전문가 직무마다 교육 요건이 모두 같지 않을 수 있습니다.
Request to do an informational interview with a working AI Ethicist. Ask about their educational path and what they might have done differently
향후 구직 참고자료가 될 수 있는 연락처 목록(이메일 주소 또는 전화번호 포함)을 작성하세요.
현재 AI 윤리 문제에 대한 책과 기사를 읽고 동영상을 시청하세요.
Join online forum debates and discussions. Make connections and build social capital within the AI community
전문 단체에 참여하여 배우고, 공유하고, 친구를 사귀고, 네트워크를 확장하세요. 가입을 고려할 수 있는 단체는 다음과 같습니다:

일반적인 로드맵

1차 직장에 입지를 잡는 방법

AI 윤리에 중점을 두고 컴퓨터 과학이나 철학 등 관련 학위를 이수하세요.
지원하기 전에 NLP, AI, LLM 등에 대한 실무 경험을 최대한 많이 쌓으세요.
대학 프로그램에서 관련 수업을 충분히 제공하지 않는 경우, AI 윤리와 관련된 임시 강좌를 수강하여 이력서를 강화하세요.
Check out job portals such as Indeed, Simply Hired, Glassdoor, AI-Jobs.net, and The AI Job Board
채용 공고에 기재된 교육 및 경력 요건을 주의 깊게 살펴보고 이력서에 재사용할 키워드를 메모해 두세요. 키워드에는 다음이 포함될 수 있습니다:

AI 감사
AI 기술
충돌 해결
비판적 사고
부서 간 협업
데이터 개인정보 보호 및 보안
의사 결정
새로운 기술
윤리 분석
윤리 프레임워크 개발
문제 해결
프로젝트 관리
규정 준수
연구 및 평가
위험 평가
투명성 및 책임성

Check out online AI Ethicist resume templates and review potential job interview questions
이력서 작성, 모의 면접, 성공적인 면접을 위한 옷차림, 취업 박람회 찾기 등의 도움을 받으려면 학교의 커리어 센터에 문의하세요.
현직 AI 윤리 전문가에게 개인적인 구직 팁을 물어보세요!
커리어 시작에 대한 조언은 지도교수, 교수 및 강사와 상담하세요.
인맥에 구직 중이라는 사실을 알리세요! 대부분의 일자리는 여전히 지인을 통해 찾을 수 있으므로 사회적 자본을 활용하세요!
Relocate to where the jobs are. Per Versa Networks, the top states hiring the most in AI are: California, Texas, New York, Washington, Virginia, and Massachusetts
입사 지원서에 개인 추천인으로 등록할 수 있도록 허락 요청하기
LinkedIn에서 프로필을 만들고 AI 윤리에 관한 기사를 작성하세요!

사다리를 오르는 법

Understand the importance of proper AI model training, and the consequences to businesses when things go wrong. Google's parent company Alphabet lost $100 billion in market value practically overnight when its Bard chatbot debuted…and gave wrong answers.
Meanwhile, Bing had to reign in its AI after it developed a strange alter ego named “Sydney”
일관성과 정확성을 보장하기 위해 절차를 따르고 신중하게 문서화하세요.
고용주에게 더 나은 서비스를 제공하기 위해 어떤 기술을 향상시킬 수 있는지 물어보세요. 고급 학위부터 자격증 또는 몇 가지 추가 과정까지 무엇이든 될 수 있습니다.
높은 도덕적 가치, 성실성, 비즈니스 통찰력을 보여주세요.
동료와 효과적으로 협업하되 동료의 압력에 굴복하지 마세요. 문제 해결에만 집중하세요.
새로운 윤리학자를 철저히 교육하되 그들의 관점에도 귀를 기울이세요. 이 분야에는 주관적인 요소가 많으므로 열린 마음을 유지하세요(결국 철학에 뿌리를 두고 있습니다!).
전문 기관과 지속적으로 교류하며 혁신적인 기술에 대한 최신 정보를 확인하세요. AI는 빠르게 진화하고 있으며 전 세계의 팀들이 한계를 뛰어넘기 위해 노력하고 있습니다.
Don’t just focus on today’s problems. Forecast growing or potential issues which could arise and plan for contingencies!

먼 이야기일지 모르지만 여전히 유효한 윤리적 관심사 중 하나는 계속 진화하는 AI를 인간이 어떻게 대해야 하는가 하는 것입니다. AI는 결국 자기 인식의 지점에 도달할까요? 그렇다면 그에 걸맞게 대우할 것인가, 아니면 단순히 지각 있는 피조물이 아닌 프로그램으로 활용할 것인가?

Science fiction authors have long obsessed over such questions. From Isaac Asimov’s I, Robot novel to Star Wars’ discriminatory treatment of droids such as C-3PO, the outlook for AI life forms is often portrayed as bleak. Star Trek: The Next Generation explored this ethical frontier in great detail in the episode “The Measure Of A Man,” in which the ship’s Captain Picard had to “prove Data [a self-aware android] is legally a sentient being with rights and freedoms under Federation law…”

권장 도구/리소스

웹사이트

책

AI Ethics (The MIT Press Essential Knowledge series), by Mark Coeckelbergh
Ethics of Artificial Intelligence, by S. Matthew Liao
Oxford Handbook of Ethics of AI, by Markus Dubber, Frank Pasquale, and Sunit Das

계획 B

AI 윤리 전문가가 되기 위한 길은 대부분의 직업처럼 명확하지 않습니다. 그리고 AI 기술이 계속 발전함에 따라 상황은 더 많이 바뀔 수 있습니다. 기술 관련 직업을 원하지만 몇 가지 대안을 고려하고 싶다면 아래 옵션을 확인해 보세요!

AI 프롬프트 엔지니어
빅 데이터 엔지니어
비즈니스 인텔리전스 개발자
컴퓨터 하드웨어 엔지니어
컴퓨터 프로그래머
컴퓨터 시스템 분석가
데이터베이스 설계자
데이터 과학자
정보 보안 분석가
수학자
머신 러닝 엔지니어
로봇 공학 엔지니어
소프트웨어 엔지니어
소프트웨어 아키텍트
웹 개발자

뉴스 피드

Edited by Gladeo

주요 채용 정보

온라인 과정 및 도구

Annual Salary Expectations

$67K

$104K

$152K

New workers start around $67K. Median pay is $104K per year. Highly experienced workers can earn around $152K.

Source: State of California, Employment Development Department

AI 윤리학자

스포트라이트

뉴스 피드

Annual Salary Expectations

주요 채용 정보

온라인 과정 및 도구

Annual Salary Expectations

비슷한 경력