인공지능에 대비하는 애플의 비밀병기

컬러스케일 구독은 멤버십 가입으로 컬러스케일 응원하기 - 애플이 M4 Pro, M4 Max 칩을 새로 발표하고 M4 시리즈 칩이 탑재된 맥을 내놓았는데요, 아이패드 프로에 들어갔던 M4 칩이 예고했던 것처럼 M3 시리즈와 비교했을 때도 꽤 큰 성능 향상이 있었습니다 이것이 끝이 아니다! M4 시리즈 칩은 전통적인 성능향상보다 AI 성능 향상에 초점을 맞춘 칩인데요 최근 AI 트렌드가 어떤 성능을 요구하는지, 그리고 M4 시리즈에 어떤 향상들이 있었는지를 살펴봤습니다 아직도 끝이 아니다! 애플은 이미 애플 실리콘으로 만들어진 서버를 이용해서 애플 인텔리전스의 서버용 모델을 구동한다고 밝혔는데요, M4 Max 칩은 애플 인텔리전스용 애플 실리콘의 기반이 될 가능성이 높습니다 그리고 이런 관점에서 애플 실리콘을 평가합니다 그리고 굉장히 의외의 결론이 나오더라구요 더 자세한 내용은 영상에서 살펴보시죠! 더 깊이 알아보고 싶은 분들은 아래 링크의 자료들을 살펴보세요 초거대 AI를 위한 AI 반도체 네이버클라우드 이동수 - LLM 추론 서비스에 대한 최신 리뷰 논문 - [참조한 자료들] * * * * * * * * Zheng, Zangwei, et al "Response length perception and sequence scheduling: An llm-empowered llm inference pipeline " Advances in Neural Information Processing Systems 36 (2024) * Agrawal, Amey, et al "Taming throughput-latency tradeoff in llm inference with sarathi-serve " arXiv preprint arXiv:2403 02310 (2024) * Kwon, Woosuk, et al "Efficient memory management for large language model serving with pagedattention " Proceedings of the 29th Symposium on Operating Systems Principles 2023 #애플 #M4 #appleintelligence 0:00 인트로 1:14 CPU 성능 3:27 GPU 성능 4:31 인공지능 성능 9:25 인공지능 성능이 필요없다고? 11:12 M4 Ultra, M4 Extreme 11:56 Apple Intelligence 13:53 AI 서버 만들기 14:27 좋은 AI 서버란? 20:23 Apple Intelligence에서 M4가 가지는 의미 22:04 마무리