엔터프라이즈 기술이 생성 AI로 스스로를 회복할 수 있을까요? AI를 올바르게 수행하고 생성 AI 뱀 오일 공급업체를 피하는 Vishal Sikka

최근 AI 스타트업 Vianai Systems의 설립자이자 CEO인 Vishal Sikka 박사와의 이전 토론에서 우리는 AI 롤러코스터의 최고점과 최저점에 대해 이야기했으며 Sikka는 많은 것을 보았습니다.

우리는 Sikka가 AI의 위험성을 경고하고 그 악명 높은 일시 중지를 촉구하는 널리 오해되는 편지에 서명한 이유를 알아냈습니다.

물론 우리는 환각 및 설명 가능성을 포함한 LLM의 문제에 대해 이야기했습니다. 환각에 대한 무관용" - Vishal Sikka 박사는 Vianai가 AI 애플리케이션을 구축하는 방법과 AI 과대광고 주기의 혼합된 감정에 대해 설명했습니다. 우리는 Vianai가 이를 해결하는 방법을 다루었습니다. 다음과 같은 차세대 AI 애플리케이션의 컨텍스트:

하지만 더 많은 것이 있습니다. 생성 AI 공급업체를 평가하는 고객을 위한 Sikka의 조언은 무엇입니까? 결국, 생성 AI를 통한 기업의 성공은 개인 시간에 ChatGPT를 실험하는 것과 완전히 다른 일련의 후프 점프입니다.

생성적 AI 기업의 장애물에 대한 나의 부분 목록: 위험 관리, 고객 데이터/가격 문제, 블랙박스/설명 가능성, LLM의 기술적 한계 완화, 제3자 LLM 사용의 어려움, 데이터 개인정보 보호 및 선택을 존중하면서 고객 훈련 데이터로 맞춤화 -아웃, 고객 가격에 대한 영향, 사용 사례 장단점 등

이는 인상적인 장애물 목록이며 완전한 목록은 아닙니다. 하지만 내가 Sikka에게 말했듯이,나는 생성 AI를 기업 기술의 회복을 위한 기회로 본다 . 소비자 기술은 스마트폰 앱 문화를 전시 A로 통해 수십 년 동안 기업 혁신의 선두에 있었던 것 같습니다. 그러나 생성 AI에는 책임감 있는 가드레일이 절실히 필요하며 위에서 언급한 모든 요소는 기업이 탁월한 능력이 아닌 것입니다. ?

내가 Sikka에게 말했듯이:

제 생각에는 기업이 AI에 부과하는 것은 정확히 AI가 현재 필요로 하는 것, 즉 보안, 법적 감독, 윤리적 감독, 데이터의 적절한 사용과 같은 것입니다. 예를 들어 ChatGPT가 처리하지 않는 Vianai의 기능 중 하나는 더 깔끔한 결과를 제공하는 다양한 유형의 데이터 소스입니다. 나는 또한 이러한 도구를 사용하여 적어도 정보의 출처와 관련된 설명 가능성 문제 중 일부를 해결했다고 생각합니다.

Sikka는 "이것은 기업이 신뢰할 수 있는 AI, 책임 있는 AI에 대한 선두를 보여줄 수 있는 기회입니다."라고 동의합니다. 더 나은 AI의 또 다른 잠재적 구성요소는 무엇일까요? 일종의 강화 학습입니다. OpenAI는 인력 조달 논란 없이는 아니지만 ChatGPT에 편견/편협한 "가드레일"을 추가하기 위해 무차별 대입 버전도 수행했습니다. 그러나 이론적으로 기업은 반복적인 모델 교육을 사용하여 도메인 전문가가 원하는 결과를 미세 조정할 수 있도록 할 수 있습니다. Sikka가 설명했듯이 이러한 접근 방식은 사용자 신뢰를 구축할 수도 있습니다.

강화학습은 이를 수행하는 방법 중 하나입니다. 다른 부분은 단순히 대화하는 것입니다. 제 멘토는 '이걸 다시 재생해 보겠습니다.'라고 묻는 놀라운 방법을 사용하곤 했습니다. 그럼 당신이 복잡한 질문을 했다고 가정해 봅시다. 그는 '이것을 다시 재생해 보겠습니다. 이런 질문을 하려고 했나요?' '수정해 보세요.'라고 말할 수도 있습니다. 그러면 그는 질문에 답할 것입니다. 물론 그것은 그에게 생각할 시간을 주었기 때문에 일종의 속임수이기도 했다.

우리는 사용자의 의도가 확실하지 않을 때 [Vianai에서] 그렇게 합니다. 따라서 조인, 복잡한 내부 조인 또는 여러 테이블에 걸친 복잡한 내용과 관련된 질문을 하면 '이런 말씀이신가요?'라고 답해 드립니다. 그러면 사용자는 '예, 이것이 바로 제가 의미한 것입니다'라고 말하거나 정정할 것입니다. 이는 사용자의 의도를 명확하게 하거나 명확히 하는 매우 간단한 방법입니다.

마찬가지로, 텍스트 기반 데이터이든 구조화된 표 형식 데이터이든 답변을 제공할 때 사용자 앞에 '여기에서 데이터를 얻었습니다. 이것이 실행된 쿼리였고, 이것이 바로 대답입니다.' 그렇게하는 것은 쉽지 않습니다. 그러나 우리는 그렇게 하고 있습니다. 이는 기업이 여러분 앞에 제시하는 결과를 신뢰하기 위해 필요한 것입니다.