llm orchestration1 [세미나] SK AI SUMMIT 참석 후기 URL: https://www.skaisummit.com/ SK AI SUMMIT 2024AI TOGETHER, AI TOMORROWwww.skaisummit.com Keynote, Exhibition, Session에서 관심 있게 본 내용 정리1. KEYNOTE(1) 전력 부분 - AI 데이터센터는 막대한 전력을 필요로 하나, 기존 전력망으로는 감당하기 어려움. - 독자적 전력망 구축, 원자력 등의 대안이 필요함. (2) 칩 설계 문제 - AI 기능 확산을 위해 GPU 보급과 설계 개선이 중요하며, 전력 소모와 발열 감소가 과제로 떠오름. - 현재 NVIDIA 칩은 전력 소모와 발열이 높아 수냉 방식을 사용 중이나, SK는 침냉 방식(특수 액체를 이용한 냉각)을 개발 중임. - TS.. 2024. 11. 24. 이전 1 다음
