'생성 AI'는 앞으로 사회 어떤 분야에서, 어떤 영향을 미칠 것인가!

07.AI 2023. 3. 6. 14:52

728x90

AI의 대변곡점

540 million years ago, the number of animal species exploded in a very short time period. There are many theories as to what happened, but one has captured my attention: the sudden onset and ensuing evolution of vision. Today, visual perception is a major sensory system and the human mind can recognize patterns in the world and generate models or concepts based on these patterns. Endowing machines with these capabilities, generative capabilities, has been a dream for many generations of AI scientists. There is a long history of algorithmic attempts at generative models with varying degrees of progress. In 1966, researchers at MIT developed the “Summer Vision Project” to effectively construct “a significant part of the visual system” with technology. This was the beginning of the field of computer vision and image generation.

5억 4천만년 전, 아주 짧은 기간에 동물 종의 수가 폭발적으로 증가했 습니다. 무슨 일이 일어났는지에 대한 많은 이론이 있지만 한 가지가 제 관심을 끌었습니다. 갑작스런 시작과 그에 따른 시력의 진화입니다. 오 늘날 시각적 인식은 주요 감각 시스템이며 인간의 마음은 세상의 패턴을 인식하고 이러한 패턴을 기반으로 모델이나 개념을 생성할 수 있습니다. 기계에 이러한 기능, 즉 생성 기능을 부여하는 것은 여러 세대의 AI 과학 자들에게 꿈이었습니다. 진행 정도가 다양한 생성 모델에 대한 알고리즘 시도의 오랜 역사가 있습니다. 1966년 MIT의 연구원들은 "시각 시스템 의 중요한 부분"을 기술로 효과적으로 구성하기 위해 "Summer Vision Project"를 개발했습니다. 이것은 컴퓨터 비전 및 이미지 생성 분야의 시작이었습니다.

Recently, due to the profound and interconnected concepts of deep learning and large data, we seem to have reached an inflection point in the ability of machines to generate language, image, audio, and more. While building AI to see what humans can see was the inspiration for computer vision, we should now be looking beyond this to building AI to see what humans can’t see. How can we use generative AI to augment our vision? Though the exact figure is disputed, deaths due to medical error in the U.S. is a significant problem. Generative AI models could assist healthcare providers in seeing potential issues that they may have otherwise missed. Furthermore, if the mistakes are due to minimal exposure to rare situations, generative AI can create simulated versions of this rare data to further train the AI models or the healthcare providers themselves. Additionally, before we even start developing new generative tools, we need to focus on what people want from these tools. In a recent project to benchmark robotics tasks by our lab, before even starting the research, the project team did a largescale user study to ask people how much they would benefit if a robot did these certain tasks for them. The winning tasks were the focus of the research.

최근 딥 러닝과 대용량 데이터의 심오하고 상호 연결된 개념으로 인해 기계가 언어, 이미지, 오디오 등을 생성하는 능력의 변곡점에 도달한 것 같습니다. 인간이 볼 수 있는 것을 볼 수 있도록 AI를 구 축하는 것이 컴퓨터 비전의 영감이 되었지만 이제 우리는 인간이 볼 수 없는 것을 볼 수 있도록 AI를 구축하는 것을 넘어서야 합니다. 제너레이티브 AI를 사용하여 비전을 강화하려면 어떻게 해야 합니 까? 정확한 수치는 논란의 여지가 있지만 미국에서 의료 과실로 인 한 사망은 심각한 문제입니다. 제너레이티브 AI 모델은 의료 제공자 가 놓쳤을 수 있는 잠재적인 문제를 확인하는 데 도움이 될 수 있습 니다. 또한 실수가 희귀에 대한 최소한의 노출로 인한 경우 상황에서 생성 AI는 시뮬레이션 버전을 생성할 수 있습니다.

또한 새로운 생성 도구를 개발하기 전에 사람들이 이러한 도구에서 원하는 것이 무엇인지에 초점을 맞춰 야 합니다. 우리 연구실에서 로봇 작업을 벤치마킹하는 최 근 프로젝트에서 프로젝트 팀은 연구를 시작하기도 전에 대 규모 사용자 연구를 수행하여 사람들에게 얼마나 많은 작 업을 할 것인지 물었습니다.

로봇이 이러한 특정 작업을 수행하면 이점이 있습니다.

To fully realize the significant opportunity that generative AI creates, we need to also evaluate the associated risks. Joy Buolamwini led a study titled “Gender Shades,” which found AI systems frequently fail to recognize women and people of color. Study results were published in 2018. We continue to see similar bias in generative AI models, specifically for underrepresented populations.

제너레이티브 AI가 창출하는 중요한 기회를 완전히 실현하려 면 관련 위험도 평가해야 합니다. 조이 부올람위니(Joy Buolamwini ) 는 AI 시스템이 여성과 유색인종을 인식하지 못하는 경우가 많다는 것을 발견한 "성별 음영(Gender Shades)" 이라는 연구를 이끌었습 니다 . 연구 결과는 2018년에 발표되었습니다. 우리는 생성 AI 모델, 특 히 소외된 인구에 대해 유사한 편향을 계속해서 보고 있습니다.

The ability to determine whether an image was generated using AI is also essential. Our society is built on trust of citizenship and information. If we cannot easily determine whether an image is AI generated, our trust of any information will erode. In this case, we need to pay special attention to vulnerable populations that may be particularly susceptible to adversarial uses of this technology.

AI를 이용해 이미지를 생성했는지 판단하는 능력도 필수적이 다. 우리 사회는 시민권과 정보에 대한 신뢰를 기반으로 합니다. 이미지 가 AI로 생성되었는지 쉽게 판단할 수 없다면 모든 정보에 대한 신뢰가 무너질 것입니다. 이 경우 우리는 이 기술의 적대적 사용에 특히 취약할 수 있는 취약한 인구에 특별한 주의를 기울여야 합니다.

The progress in a machine’s capability to generate content is very exciting, as is the potential to explore AI’s ability to see what humans are not able. But we need to be attentive to the ways in which these capabilities will disrupt our everyday lives, our communities, and our role as world citizens.

인간이 볼 수 없는 것을 볼 수 있는 AI의 능력을 탐구할 수 있는 잠재력과 마찬가지로 콘텐츠를 생성하는 기계의 능력의 발전은 매우 흥미진진합니다. 그러나 우리는 이러한 능력이 우리의 일상 생활, 지 역 사회 및 세계 시민으로서의 역할을 방해하는 방식에 주의를 기울 여야 합니다.

원문 : Generative AI: Perspectives from Stanford HAI

https://hai.stanford.edu/sites/default/files/2023-03/Generative_AI_HAI_Perspectives.pdf