본문 바로가기

Biusiness Insight

 (104)
[CES 2025] 놀라운 속도로 발전하는 AI, 엔비디아 젠슨 황 키노트 전문 요약 엔비디아 CES 2025CES 2025에서 '놀라운 속도'로 발전하는 AI, 엔비디아 CEO(CES 2025: AI Advancing at ‘Incredible Pace’)- 젠슨 황, 엔비디아 코스모스(Cosmos), 블랙웰 RTX50 시리즈 GPU 및 PC용 AI 도구 공개 엔비디아의 창립자 겸 CEO인 젠슨 황은 게임, 자율주행차, 로보틱스, 에이전트 AI를 발전시킬 신제품을 소개하는 90여분의 키노트로 CES 2025의 시작을 알렸다.그는 라스베가스의 미켈롭 울트라 아레나(Michelob Ultra Arena)를 가득 메운 청중 앞에서 AI는 "놀라운 속도로 발전하고 있다.(advancing at an incredible pace)"고 말했다."AI는 이미지, 단어, 소리를 이해하는 인식 AI에서..
[NVIDIA] 네트워킹 1. 네트워킹 소개 정의네트워킹은 컴퓨터와 장치들을 연결하여 데이터를 주고받고 자원을 공유할 수 있도록 하는 기술현대 IT 시스템의 핵심으로, 효율적인 통신과 정보 교환을 가능하게 함.구성 요소노드(Node): 네트워크에 연결된 모든 장치로, 컴퓨터, 서버, 라우터, 프린터 등이 포함됨링크(Link): 노드를 연결하는 물리적(유선) 또는 무선(Wi-Fi) 경로네트워크 장비: 라우터, 스위치, 허브 등의 장치가 네트워크 연결을 관리하고 데이터 전송을 제어함.네트워크 유형LAN (근거리 통신망): 작은 지리적 범위(예: 사무실, 집)에서 사용되는 네트워크.WAN (광역 통신망): 넓은 지역(예: 도시, 국가)을 연결하며, 인터넷이 대표적인 예   2. TCP/IP 프로토콜 목적TCP/IP는 네트워크에서 데이..
[NVIDIA] AI 인프라 및 운영 - ③ AI 운영 13. AI 데이터 센터 관리 및 모니터링13.1 Key Messages클러스터 관리 (Cluster Management)인프라 프로비저닝 (Infrastructure Provisioning)자원 관리 (Resource Management)작업 관리 (Workload Management)프로비저닝 (Provisioning Tools) : 프로비저닝은 하드웨어에 소프트웨어와 드라이버를 설치하는 과정모니터링 도구 (Monitoring Tools) : 모니터링은 AI 인프라 및 해당 소프트웨어, 서비스, 실행 중인 작업(job)의 상태와 매트릭을 확인하는 과정을 포함작업 관리 (Workload Management) : 자원할당, 작업 스케줄링 (Scheduling Jobs), 자원 사용량 모니터링 (Monit..
[NVIDIA] AI 인프라 및 운영 - ② AI 인프라 7. 데이터센터 플랫폼7.1 Key messageNVIDIA 플랫폼 (NVIDIA Platform) : 현대 데이터 센터에서 가속 컴퓨팅을 위한 풀 스택 플랫폼 제공데이터 센터 GPU (Data Center GPUs) : 블랙웰(Blackwell), 호퍼(Hopper), 에이다 러브레이스(Ada Lovelace) 아키텍처를 기반으로 한 B200, H100, L40S와 같은 다양한 데이터 센터 GPU를 제공멀티 GPU 시스템 (Multi-GPU Systems) : NVLink 및 NVSwitch를 통한 고대역폭 GPU간 통신을 지원하는 DGX100 및 DGX B200과 같은 멀티 GPU 시스템을 제공BlueField 플랫폼 및 DOCA (BlueField Platform and DOCA) : BlueFie..
[NVIDIA] AI 인프라 및 운영 - ① AI 소개 1. 산업 전반의 AI 혁신 (AI Transformation Across Industries)1.1 AI Transformation : 헬스케어, 금융 서비스, 자율주행차를 포함한 모든 산업에서 AI 기반 혁신중의료 분야 AI : 기반 신약 개발, 의료기기 혁신, 암세포 실시간 분석 가능금융 분야 AI : 사기 탐지, 로보 어드바이저, 가상 금융 자문 등자동차 산업 AI : 자동차 제조업체의 설계 시각화, 엔지니어링 시뮬레이션, 자율주행 등생성형 AI : 자연어 처리, 콘텐츠 생성, 멀티모달 인텔리전스 고도화로 컴퓨터 산업 혁명 1.2 헬스케어 AI : AI로 인한 헬스케어 산업의 변화: 신약 개발(Drug discovery) 및 의료기기 분야 혁신1) 생물학적 시스템 모델링, 질병 연구 및 타겟 약물..
Google Cloud Summit Seoul 2024 참관 Summary-  비즈니스 환경 전반에서 Human-AI 협력 환경으로 진화가 예상되며, AI는 작업 보조자로 자리 매김 중-  생성형 AI/LLM 모델은 Multi-modal(LLVM) 연계 방향으로 진화하며 사용자경험(UX)의 혁신적 변화 예상-  생성형 AI로 인해 대규모 데이터 활용(빠르고 손쉬운 데이터 연동)이 용이해짐과 더불어 채팅 기반 Instruction만으로 일부 AI 서비스 개발이 가능해지는 등, 기술 활용의 장벽이 낮아짐으로 인해 업무 전반에 AI 활용 및 각 Biz. 현장에서 필요한 형태로 직접 AI 개발/활용하는 Longtail化 전망 행사 개요 및 Highlight- Google Cloud Summit Seoul은 연례 행사로 AI, Data 분석 및 최신 클라우드 기술을 주제로..
[Google Cloud] Vertex AI 활용 Prompt Design Vertex AI Studio 접속1. Google Cloud 콘솔 로그인 ☞ GCP Console2. Vertex AI Studio 접속 ☞ Verex AI StudioVertex AI Studio를 사용하면 생성형 AI 모델을 신속하게 테스트하고 맞춤 설정하여 Application 에서 활용 가능Google Cloud 콘솔에서 Gemini 멀티모달을 이용해 이미지 분석 및 프롬프트를 설계하고 대화 생성 가능API나 Python SDK를 활용하지 않아도 직관적인 UI를 통해 모든 기능 액세스 가능 Gemini 이미지 분석 도구 빌드1. GCP 콘솔에서 탐색 메뉴 > 인공지능 > Vertex AI > Vertex AI Studio > 개요 이동 2. Gemini 기반 멀티모달에서 Gemini 사용해보기 ..
[Google Cloud] Vertex AI Gemini API 및 Python SDK 실습 Vertex AI Gemini APIVertex AI Gemini API는 여러 Gemini 모델과의 상호작용을 위한 통합 인터페이스를 제공함.현재 Gemini API에서 사용할 수 있는 모델Gemini 1.0 Pro 모델(gemini-1.0-pro): 자연어 작업, 멀티턴 텍스트 및 코드 채팅, 코드 생성을 처리하도록 설계된 모델Gemini 1.0 Pro Vision 모델(gemini-1.0-pro-vision): 멀티모달 프롬프트를 지원하는 모델로, 프롬프트 요청에 텍스트, 이미지, 동영상을 포함하고 텍스트 또는 코드 형태의 대답을 얻을 수 있 Vertex AI Workbench 접속하기 1. Google Cloud 콘솔 접속 ☞ GCP Console2. Google Cloud 프로젝트에서 Verte..
[Google Cloud] Vertex AI Studio 및 API 사용 설정 Vertex AI Studio 접속1. Google Cloud 콘솔 로그인 ☞ GCP Console2. Vertex AI Studio 접속 ☞ Verex AI StudioVertex AI Studio를 사용하면 생성형 AI 모델을 신속하게 테스트하고 맞춤 설정하여 Application 에서 활용 가능Google Cloud 콘솔에서 Gemini 멀티모달을 이용해 이미지 분석 및 프롬프트를 설계하고 대화 생성 가능API나 Python SDK를 활용하지 않아도 직관적인 UI를 통해 모든 기능 액세스 가능  Vertex AI API 사용 설정1. GCP 콘솔 상단 검색창에서 Vertex AI API 입력2. Marketplace 및 API에서 Vertex AI API를 클릭 3. 사용 설정 [ Enable ] ..
[Google Cloud] Vertex AI 생성형 AI - 프롬프트 설계 Vertex AI Workbench 접속하기 1. Google Cloud 콘솔 접속하기 : GCP Console2. Google Cloud 프로젝트에서 Vertex AI Workbench 로 이동하기3. 사용자 관리형 노트북 (User-Managed NOTEBOOKS) 이동4. JupterLab 실행 Vertex AI Workbench에서 생성형 AI 프롬프트 실습  Vertex AI SDK 설정 및 제로샷, 원샷, 퓨삿 프롬프팅 In [1]:# Copyright 2024 Google LLC## Licensed under the Apache License, Version 2.0 (the "License");# you may not use this file except in compliance with t..
생성형 AI 및 LLM 관련 Reading List LLM (Large Language Model) Reading ListNLP's ImageNet moment has arrived (NLP ImageNet 시대의 도래) : https://thegradient.pub/nlp-imagenet/Google Cloud supercharges NLP with large language models (Google Cloud 대규모 언어모델로 NLP강화) : https://cloud.google.com/blog/products/ai-machine-learning/google-cloud-supercharges-nlp-with-large-language-models LaMDA: our breakthrough conversation technology (LaMDA : G..
분석/학습용 공개 데이터 세트들 (Public Dataset Resources) 링크 포함 구글 클라우드 공개데이터 세트 Google Cloud Public Dataset링크 : https://cloud.google.com/datasets데이터세트 검색 : https://datasetsearch.research.google.com/Google 데이터세트Google 트렌드 : 지난 30일 동안의 Google 트렌드에서 상위 25개/급상승 25개 쿼리, 전세계 50여개 국가 데이터 포함, 미국내 210개의 지정시장지역(DMA)에 대한 5년간 과거데이터 포함Google 애널리틱스 : 웹사이트 트래픽 소스, 컨텐츠, 트랜잭션 데이터 포함 Google 애널리틱스 360개 데이터 (2016.08~2017.08, 비식별화)Google 특허검색 : 제목, 초록 기계번역, 임베딩 벡터, 상위 용어 추출, 유사..
[Python] Seaborn을 활용한 시각화 실습 단원별 심화 연습 문제¶In [1]: import numpy as npimport pandas as pdimport seaborn as snsimport matplotlib.pyplot as pltimport seaborn as snsimport glob# set floating point formattingpd.options.display.float_format = '{:,.1f}'.format Q6¶범위(이전 범위 포함)시각화rental.csv 파일을 로드하여 다음의 지시사항에 맞는 시각화 그래프를 생성하고 출력합니다.date - 시간. 연-월-일 시:분:초 로 표현합니다. (가령 2011-01-01 00:00:00은 2011년 1월 1일 0시 0분 0초)businessday - 근무일..
[Python] Seaborn을 활용한 시각화 - seaborn stats 통계 기반의 그래프¶In [1]: !pip install seaborn==0.13.0 Defaulting to user installation because normal site-packages is not writeableCollecting seaborn==0.13.0 Downloading seaborn-0.13.0-py3-none-any.whl (294 kB) ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 294.6/294.6 kB 4.8 MB/s eta 0:00:00a 0:00:01Requirement already satisfied: pandas>=1.2 in ./.local/lib/python3.9/site-packages (from..
[Python] Seaborn을 활용한 시각화 모듈 Import¶In [1]: !pip install seaborn==0.13.0 Defaulting to user installation because normal site-packages is not writeableCollecting seaborn==0.13.0 Downloading seaborn-0.13.0-py3-none-any.whl (294 kB) ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 294.6/294.6 kB 2.2 MB/s eta 0:00:00a 0:00:01Requirement already satisfied: numpy!=1.24.0,>=1.20 in ./.local/lib/python3.9/site-packag..
[Python] Matplotlib을 활용한 시각화 실습 matplotlib 그래프¶pyplot 공식 도큐먼트 살펴보기In [1]: !pip install --upgrade --force-reinstall seaborn Defaulting to user installation because normal site-packages is not writeableCollecting seaborn Downloading seaborn-0.13.2-py3-none-any.whl (294 kB) ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 294.9/294.9 kB 6.4 MB/s eta 0:00:00a 0:00:01Collecting numpy!=1.24.0,>=1.20 Downloading numpy-2...
[Python] Matplotlib을 활용한 시각화 matplotlib.pyplot의 기본적인 canvas 그리기와 스타일링 예제¶pyplot 공식 도큐먼트 살펴보기본 튜토리얼은 matplotlib의 가장 기본적인 튜토리얼을 제공합니다.다양한 옵션값과 스타일 기본 설정법을 배울 수 있습니다.In [1]: import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport matplotlib.font_manager as fmimport warningswarnings.filterwarnings('ignore')# Unicode warning 제거 (폰트 관련 경고메시지)plt.rcParams['axes.unicode_minus']=False# 한글 폰트 설정plt.rcParams['fo..
[Python] 데이터프레임 시각화 실습에 필요한 데이터 파일 다운로드¶In [1]: # 실습 파일에 필요한 데이터 파일 다운로더 설치!pip install opendata-kr -q [notice] A new release of pip available: 22.2.2 -> 24.1.1[notice] To update, run: pip install --upgrade pipIn [2]: from opendata import datasetdataset.download('민간아파트분양') ======= 다운로드 시작 =======data/house_price.csv 0%| | 0.00/131k [00:00 ======= 다운로드 완료 ====..
[Python] Pandas concat, merge 실습 단원별 심화 연습 문제¶In [1]: !pip install seaborn==0.13.0 Defaulting to user installation because normal site-packages is not writeableCollecting seaborn==0.13.0 Downloading seaborn-0.13.0-py3-none-any.whl (294 kB) ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 294.6/294.6 kB 6.1 MB/s eta 0:00:00a 0:00:01Requirement already satisfied: numpy!=1.24.0,>=1.20 in ./.local/lib/python3.9/site-pac..
[Python] Pandas concat, merge 모듈 import¶In [1]: !pip install seaborn==0.13.0 Defaulting to user installation because normal site-packages is not writeableCollecting seaborn==0.13.0 Downloading seaborn-0.13.0-py3-none-any.whl (294 kB) ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 294.6/294.6 kB 4.4 MB/s eta 0:00:00a 0:00:01Requirement already satisfied: numpy!=1.24.0,>=1.20 in ./.local/lib/python3.9/site-packag..

티스토리툴바