Meta
Posted 18h ago

Software Engineer, Systems ML - Frameworks / Compilers / DL-Kernels | Ingénieur logiciel spécialisé en apprentissage automatique des systèmes – cadres/compilateurs/noyaux d'apprentissage profond

Meta
Toronto, Ontario, Canada
$160k-$213k/yrOnsiteFull Time
Responsibilities
  • developing software
  • optimizing models
  • collaborating researchers
Requirements
  • C/C++ programming
  • AI framework or deep learning hardware experience, and a bachelor's degree or equivalent practical experience. Advanced degree and 3–7+ years of relevant experience may qualify
Technical tools mentioned
CC++PyTorchTensorFlowONNXTensorRTvLLMSGLangMLIRLLVMIREEXLATVMHalideCUDAOpenMPOpenCLcuBLAScuDNNCUTLASSHIPROCmSIMDMTIA

Job description

In this role, you will be a member of the MTIA (Meta Training & Inference Accelerator) Software team and part of the bigger AI and Compute Foundations team. MTIA Software Team has been developing a comprehensive software platform strategy that delivers a highly flexible platform to train & serve new deep learning model architectures, combined with auto-tuned high performance for production environments across specialized hardware architectures.

You will be working on one of the core areas such as PyTorch & GenAI framework components, AI compiler and runtime, high-performance deep learning kernels and tooling to accelerate machine learning workloads on the current & next generation of MTIA AI hardware platforms. You will work closely with AI researchers to analyze deep learning models and optimize them efficiently on MTIA hardware. You will also partner with hardware design teams to develop optimizations for high performance. You will apply software development best practices to design features, optimization, and performance tuning techniques. You will gain valuable experience in developing machine learning compiler frameworks and will help in driving next generation hardware software codesign for AI domain specific problems.

-------

À ce poste, vous ferez partie de l'équipe logicielle MTIA (Meta Training & Inference Accelerator) et intégrerez l'équipe plus large chargée de l'IA et des fondements informatiques. L'équipe logicielle de MTIA élabore actuellement une stratégie globale de plate-forme logicielle visant à offrir une plate-forme extrêmement flexible permettant de former et d'exploiter de nouvelles architectures de modèles d'apprentissage profond, tout en garantissant des performances optimisées automatiquement pour les environnements de production sur diverses architectures matérielles spécialisées.

Vous travaillerez sur l'un des domaines clés, tels que les composants des frameworks PyTorch et GenAI, le compilateur et le moteur d'exécution d'IA, les noyaux d'apprentissage profond haute performance et les outils destinés à accélérer les charges de travail d'apprentissage automatique sur les plates-formes matérielles d'IA MTIA actuelles et de nouvelle génération. Vous travaillerez en étroite collaboration avec des chercheurs en IA pour analyser les modèles d’apprentissage profond et les optimiser efficacement sur le matériel MTIA. Vous travaillerez également en collaboration avec les équipes de conception matérielle afin de mettre au point des optimisations visant à atteindre des performances élevées. Vous mettrez en œuvre les meilleures pratiques en matière de développement logiciel pour concevoir des fonctionnalités, optimiser les applications et mettre en œuvre des techniques d'optimisation des performances. Vous bénéficierez d'une expérience précieuse dans le développement de compilateurs d'apprentissage automatique et contribuerez à la conception de logiciels matériels de nouvelle génération pour les problèmes spécifiques du domaine d'IA.

Responsibilities

  • Development of SW stack with one of the following core focus areas: AI frameworks, compiler stack, high performance deep learning kernel development, runtime and tooling for MTIA accelerator | Développement d'une pile logicielle dans l'un des domaines clés suivants : Cadres d'IA, pile de compilateurs, développement de noyaux d'apprentissage profond haute performance, environnement d'exécution et outils pour l'accélérateur MTIA.
  • Contribute to the development of the industry-leading PyTorch AI framework, core compilers, and GenAI OSS frameworks to support new state-of-the-art inference and training AI hardware accelerators and optimize their performance | Contribuer au développement du cadre d'IA PyTorch, leader du secteur, des compilateurs de base et des cadres open source GenAI afin de prendre en charge les nouveaux accélérateurs matériels d'IA de pointe destinés à l'inférence et à l'entraînement, et d'optimiser leurs performances.
  • Analyze deep learning models, develop and implement optimization algorithms towards high performance and efficiency gains | Analyser des modèles d'apprentissage profond, développer et mettre en œuvre des algorithmes d'optimisation visant à améliorer les performances et à réaliser des gains d'efficacité.
  • Collaborate with AI research scientists to accelerate the next generation of deep learning models such as recommendation systems and Generative AI | Collaborer avec des chercheurs en intelligence artificielle afin d'accélérer le développement de la prochaine génération de modèles d'apprentissage profond, tels que les systèmes de recommandation et l'IA générative.

Minimum Qualifications

  • Proven C/C++ programming skills | Compétences avérées en programmation C/C++
  • Experience in AI framework development or accelerating deep learning models on hardware architectures | Expérience dans le développement de cadres d'IA ou dans l'accélération de modèles d'apprentissage profond sur des architectures matérielles
  • Bachelor's degree in Computer Science, Computer Engineering, relevant technical field, or equivalent practical experience | Licence en informatique, en génie informatique, dans un domaine technique pertinent, ou expérience pratique équivalente

Preferred Qualifications

  • OR Experience working with frameworks like PyTorch, TensorFlow, ONNX, TensorRT, and GenAI Frameworks such as vLLM or SGLang | OU expérience dans l'utilisation de cadres tels que PyTorch, TensorFlow, ONNX, TensorRT et de cadres d'IA générative tels que vLLM ou SGLang
  • OR AI Compiler: Experience with compiler optimizations such as loop optimizations, vectorization, parallelization, hardware specific optimizations such as SIMD. Experience with MLIR, LLVM, IREE, XLA, TVM, Halide is a plus | OU compilateur d'IA : Expérience en matière d'optimisations de compilateur, telles que les optimisations de boucles, la vectorisation, la parallélisation, ainsi que les optimisations spécifiques au matériel, comme le SIMD. Une expérience avec MLIR, LLVM, IREE, XLA, TVM ou Halide est un plus
  • OR Runtime development and system performance optimizations such as runtime analysis of latency, memory bandwidth, I/O access, compute utilization analysis and associated tooling development | OU le développement en temps réel et optimisations des performances du système, notamment l'analyse en temps réel de la latence, de la bande passante mémoire, des accès E/S, l'analyse de l'utilisation des ressources de calcul et le développement des outils associés
  • OR high performance deep learning kernels: Experience with CUDA programming, OpenMP / OpenCL programming or AI hardware accelerator kernel programming. Experience in accelerating libraries on AI hardware, similar to cuBLAS, cuDNN, CUTLASS, HIP, ROCm etc | OU des noyaux d’apprentissage profond haute performance : Expérience en programmation CUDA, en programmation OpenMP/OpenCL ou en programmation de noyaux pour accélérateurs matériels d'IA. Expérience dans l'optimisation des bibliothèques sur du matériel d'IA, à l'instar de cuBLAS, cuDNN, CUTLASS, HIP, ROCm, etc
  • OR Tooling for device profiling, tracing, debugging and performance tuning | OU des outils destinés au profilage, au traçage, au débogage et à l'optimisation des performances des appareils
  • Knowledge of GPU, CPU, or AI hardware accelerator architectures | Connaissance des architectures des cartes graphiques, des processeurs ou des accélérateurs matériels d'intelligence artificielle
  • A Bachelor's degree in Computer Science, Computer Engineering, relevant technical field and 7+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a Master's degree in Computer Science, Computer Engineering, relevant technical field and 4+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a PhD in Computer Science, Computer Engineering, or relevant technical field and 3+ years of experience in AI framework development or accelerating deep learning models on hardware architectures | Un diplôme de licence en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins sept ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles ; OU un diplôme de maîtrise en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins quatre ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles ; OU un doctorat en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins trois ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles
  • Demonstrated ongoing AI skill development (e.g., prompt/context engineering, agent orchestration) and staying current with emerging AI technologies | Avoir démontré une capacité à développer en permanence ses compétences en IA (par exemple, ingénierie des prompts et du contexte, orchestration d'agents) et à se tenir informé des technologies émergentes en matière d'IA
  • Demonstrated ability to integrate AI tools to optimize/redesign workflows and drive measurable impact (e.g., efficiency gains, quality improvements) | Capacité avérée à intégrer des outils d'IA afin d'optimiser ou de repenser les processus de travail et de générer des résultats mesurables (par exemple, gains d'efficacité, amélioration de la qualité)
  • Experience adhering to and implementing responsible, ethical AI practices (e.g., risk assessment, bias mitigation, quality and accuracy reviews) | Expérience dans le respect et la mise en œuvre de pratiques responsables et éthiques en matière d’IA (par exemple : évaluation des risques, réduction des biais, examens de la qualité et de l’exactitude)

Compensation

  • CA$160,000/year - CA$213,000/year; Country: CA; Bonus eligible; Equity eligible

About Meta

Meta builds technologies that help people connect, find communities, and grow businesses. When Facebook launched in 2004, it changed the way people connect. Apps like Messenger, Instagram and WhatsApp further empowered billions around the world. Now, Meta is moving beyond 2D screens toward immersive experiences like augmented and virtual reality to help build the next evolution in social technology. People who choose to build their careers by building with us at Meta help shape a future that will take us beyond what digital connection makes possible today—beyond the constraints of screens, the limits of distance, and even the rules of physics.

Meta développe des technologies qui aident les gens à se connecter, à trouver des communautés et à développer des entreprises. Lorsque Facebook a été lancé en 2004, il a changé la façon dont les gens se connectent. Des applications comme Messenger, Instagram et WhatsApp ont permis à des milliards de personnes dans le monde de s'émanciper. Aujourd'hui, Meta dépasse les écrans 2D pour se tourner vers des expériences immersives comme la réalité augmentée et virtuelle, afin de contribuer à la prochaine évolution de la technologie sociale. Les personnes qui choisissent de bâtir leur carrière en œuvrant avec nous chez Meta contribuent à façonner un avenir qui nous mènera au-delà de ce que la connexion numérique rend possible aujourd'hui — au-delà des contraintes des écrans, des limites de la distance, et même des règles de la physique.

California Notice

For those who live in or expect to work from California if hired for this position, please click here for additional information.

Equal Opportunity

Meta is proud to be an Equal Employment Opportunity employer. We do not discriminate based upon race, religion, color, national origin, sex (including pregnancy, childbirth, reproductive health decisions, or related medical conditions), sexual orientation, gender identity, gender expression, age, status as a protected veteran, status as an individual with a disability, genetic information, political views or activity, or other applicable legally protected characteristics. You may view our Equal Employment Opportunity notice here.

Accommodations

Meta is committed to providing reasonable accommodations for qualified individuals with disabilities and disabled veterans in our job application procedures. If you need assistance or an accommodation due to a disability, fill out the Accommodations request form.

Meta est fière d’être un employeur offrant l’égalité des chances en matière d’emploi. Nous ne faisons aucune discrimination fondée sur la race, la religion, la couleur, l’origine nationale, le sexe (y compris la grossesse, l’accouchement, les décisions en matière de santé reproductive ou les problèmes médicaux connexes), l’orientation sexuelle, l’identité de genre, l’expression de genre, l’âge, le statut d’ancien combattant protégé, le statut de personne handicapée, les informations génétiques, les opinions politiques ou les activités, ou d’autres caractéristiques protégées par la loi applicables. Vous pouvez consulter notre avis sur l’égalité des chances en matière d’emploi ici.

Meta s'engage à fournir des aménagements raisonnables aux personnes handicapées et aux anciens combattants invalides dans le cadre de ses procédures de candidature. Si vous avez besoin d’aide ou d’une mesure d’adaptation en raison d’un handicap, remplissez le formulaire de demande d’adaptation.

About Meta

Builds technologies that help people connect, find communities, and grow businesses.

Year founded
2004
Employees
77986
Organization type
Public
Latest investment
Raised $25.00B Post-IPO Debt (2026) — led by Citigroup, Morgan Stanley
Headquarters
US

Similar jobs

Software Engineer roles near Toronto, Ontario
12h
Save
Mark Applied
Hide
Software Engineer (AI Engineer) (Toronto, ON, CA, M5H 1H1)
Toronto, Ontario, Canada
OnsiteFull Time
Scotiabank
ScotiabankTSX: BNS: Global financial institution providing personal, commercial, and investment banking services.
3+ YOERelevant STEM university degree and 3+ years in software engineering, system design, and integration. Requires application development, databases, networking, version control, and DevOps proficiency.
Python, PostgreSQL, Redis, MongoDB, RabbitMQ, Kafka, GCP Pub/Sub, LangChain, LangGraph, ADK, LangSmith, Docker, Docker Compose, Kubernetes, GCP, Helm Charts, Ansible, Terraform, ArgoWF, ArgoCD, JavaScript, NodeJS, Express, React/Redux, Webpack, Babel, Jest, Linux, git, HTTP, REST API
17h
Save
Mark Applied
Hide
Principal Software Engineer, ML Platform
Seattle or Denver or Portland or Springfield or Toronto or Bangalore
$257k-$321k/yr HybridFull Time
DAT
DAT: Private freight marketplace and logistics software serving shippers, brokers, carriers, and transportation analysts.
Extensive ML, data infrastructure, or platform engineering experience; hands-on real-time ML platform expertise; strong Python skills; Kafka, Kubernetes, cloud, DevOps, MLOps, and team leadership experience.
Python, Go, TypeScript, Node, gRPC, Kubernetes, Kafka, Snowflake, Avro, JSON, Iceberg, Terraform, CI/CD, SQL, dbt, Helm, Postgres, RisingWave
20h
Save
Mark Applied
Hide
Senior Software Developer (Automation & Integration)
Toronto, Ontario, Canada
$120k-$150k/yr OnsiteFull Time
Bally's Corporation
Bally's CorporationNYSE: BALY: Global casino-entertainment operating properties and digital gaming platforms.
6+ YOE6+ years of software engineering experience, with Node.js or Python, APIs, AWS automation, system design, IaC, CI/CD, integrations, security, privacy, and PII expertise.
Node.js, Python, AWS, Lambda, Step Functions, EventBridge, SQS, SNS, S3, API Gateway, IAM, Infrastructure as Code, CI/CD, Metaview
20h
Save
Mark Applied
Hide
Senior Software Engineer, Developer Experience (DevX)
Menlo Park or New York City or Bellevue or Washington or Toronto
$196k-$230k/yr HybridFull Time
Robinhood
RobinhoodNASDAQ: HOOD: Provides brokerage, crypto, advisory, and banking services.
Experience with developer infrastructure, CI/CD pipelines, or large-scale build systems; Go or Python proficiency; distributed build systems; Kubernetes; and strong problem-solving skills.
Bazel, GitHub, Go, Python, Kubernetes
21h
Save
Mark Applied
Hide
Lead Software Engineer
Canada or Ontario or Toronto or United States
RemoteFull Time
Bankjoy
Bankjoy: Private digital-banking fintech serving community banks and credit unions with online, mobile, account-opening, and lending software.
8+ YOE2+ MgmtRequires 8+ years of software engineering experience, 2+ years of technical leadership, banking technology experience, C#, .NET Core, Entity Framework, SQL Server, Angular, TypeScript, and Eastern Time Zone availability.
C#, .NET Core, Entity Framework, SQL Server, TypeScript, Angular, Corelation Keystone, Jack Henry Symitar, Fiserv Portico, CU Answers, Plaid, Socure, Alloy, DocuSign, CI/CD
22h
Save
Mark Applied
Hide
Remote Software Engineer - Java
United States or Canada or Austria or Belgium or France or Germany or Toronto
$200-$300/hr RemoteContract
Turing
Turing: AI research accelerator and intelligent talent cloud platform.
3+ YOE3+ years of software engineering experience, full-stack application development, scalable production deployments, software architecture, debugging, code review, and strong written and oral communication.
Java, Python, JavaScript, ReactJS, C, C++, Rust, Go
1d
Save
Mark Applied
Hide
Software Engineer I
Toronto, Ontario, Canada
$70k-$98k/yr OnsiteFull Time
TD Bank Group
TD Bank GroupTSX, NYSE: TD: Diversified Canadian multinational banking and financial services.
3+ YOECollege diploma or undergraduate/master's degree in computer science, software engineering, or a relevant technical specialty, plus 3–5 years of software development experience and proficiency with modern JavaScript, GitHub, APIs, databases, and CI/CD.
React, NodeJS, PostgreSQL, GitHub Actions, TypeScript, JavaScript, Git, GitHub, RESTful APIs, Swagger, MSSQL, SQL, SAML, OAuth, OIDC, AD, Entra, Python, Bash, Backstage
1d
Save
Mark Applied
Hide
Senior Software Engineer
Toronto, Ontario, Canada
OnsiteFull Time
Equifax
EquifaxNYSE: EFX: Global data, analytics, and technology.
5+ YOEBachelor's degree or equivalent experience; 5+ years of software engineering and Java experience; 2+ years with cloud technology, Java microservices, SpringBoot, GCP SDKs, GKE/Kubernetes; Jenkins CI/CD, Helm Charts, and Terraform experience.
Java, GCP, AWS, Azure, SpringBoot, GKE, Kubernetes, Jenkins, Helm Charts, Terraform, Copilot, Dataflow, Apache Beam, Bigtable, BigQuery, PubSub, GCS, Composer, Airflow, CI/CD, infrastructure-as-code, microservices