404 Not Found

PATH: lib64 / llvm17 / lib / clang / 17 / include

/*===------------- avx512vbmi2intrin.h - VBMI2 intrinsics ------------------===
 *
 *
 * Part of the LLVM Project, under the Apache License v2.0 with LLVM Exceptions.
 * See https://llvm.org/LICENSE.txt for license information.
 * SPDX-License-Identifier: Apache-2.0 WITH LLVM-exception
 *
 *===-----------------------------------------------------------------------===
 */
#ifndef __IMMINTRIN_H
#error "Never use <avx512vbmi2intrin.h> directly; include <immintrin.h> instead."
#endif

#ifndef __AVX512VBMI2INTRIN_H
#define __AVX512VBMI2INTRIN_H

/* Define the default attributes for the functions in this file. */
#define __DEFAULT_FN_ATTRS __attribute__((__always_inline__, __nodebug__, __target__("avx512vbmi2"), __min_vector_width__(512)))

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_compress_epi16(__m512i __S, __mmask32 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_compresshi512_mask ((__v32hi) __D,
              (__v32hi) __S,
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_compress_epi16(__mmask32 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_compresshi512_mask ((__v32hi) __D,
              (__v32hi) _mm512_setzero_si512(),
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_compress_epi8(__m512i __S, __mmask64 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_compressqi512_mask ((__v64qi) __D,
              (__v64qi) __S,
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_compress_epi8(__mmask64 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_compressqi512_mask ((__v64qi) __D,
              (__v64qi) _mm512_setzero_si512(),
              __U);
}

static __inline__ void __DEFAULT_FN_ATTRS
_mm512_mask_compressstoreu_epi16(void *__P, __mmask32 __U, __m512i __D)
{
  __builtin_ia32_compressstorehi512_mask ((__v32hi *) __P, (__v32hi) __D,
              __U);
}

static __inline__ void __DEFAULT_FN_ATTRS
_mm512_mask_compressstoreu_epi8(void *__P, __mmask64 __U, __m512i __D)
{
  __builtin_ia32_compressstoreqi512_mask ((__v64qi *) __P, (__v64qi) __D,
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_expand_epi16(__m512i __S, __mmask32 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_expandhi512_mask ((__v32hi) __D,
              (__v32hi) __S,
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_expand_epi16(__mmask32 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_expandhi512_mask ((__v32hi) __D,
              (__v32hi) _mm512_setzero_si512(),
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_expand_epi8(__m512i __S, __mmask64 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_expandqi512_mask ((__v64qi) __D,
              (__v64qi) __S,
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_expand_epi8(__mmask64 __U, __m512i __D)
{
  return (__m512i) __builtin_ia32_expandqi512_mask ((__v64qi) __D,
              (__v64qi) _mm512_setzero_si512(),
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_expandloadu_epi16(__m512i __S, __mmask32 __U, void const *__P)
{
  return (__m512i) __builtin_ia32_expandloadhi512_mask ((const __v32hi *)__P,
              (__v32hi) __S,
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_expandloadu_epi16(__mmask32 __U, void const *__P)
{
  return (__m512i) __builtin_ia32_expandloadhi512_mask ((const __v32hi *)__P,
              (__v32hi) _mm512_setzero_si512(),
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_expandloadu_epi8(__m512i __S, __mmask64 __U, void const *__P)
{
  return (__m512i) __builtin_ia32_expandloadqi512_mask ((const __v64qi *)__P,
              (__v64qi) __S,
              __U);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_expandloadu_epi8(__mmask64 __U, void const *__P)
{
  return (__m512i) __builtin_ia32_expandloadqi512_mask ((const __v64qi *)__P,
              (__v64qi) _mm512_setzero_si512(),
              __U);
}

#define _mm512_shldi_epi64(A, B, I) \
  ((__m512i)__builtin_ia32_vpshldq512((__v8di)(__m512i)(A), \
                                      (__v8di)(__m512i)(B), (int)(I)))

#define _mm512_mask_shldi_epi64(S, U, A, B, I) \
  ((__m512i)__builtin_ia32_selectq_512((__mmask8)(U), \
                                     (__v8di)_mm512_shldi_epi64((A), (B), (I)), \
                                     (__v8di)(__m512i)(S)))

#define _mm512_maskz_shldi_epi64(U, A, B, I) \
  ((__m512i)__builtin_ia32_selectq_512((__mmask8)(U), \
                                     (__v8di)_mm512_shldi_epi64((A), (B), (I)), \
                                     (__v8di)_mm512_setzero_si512()))

#define _mm512_shldi_epi32(A, B, I) \
  ((__m512i)__builtin_ia32_vpshldd512((__v16si)(__m512i)(A), \
                                      (__v16si)(__m512i)(B), (int)(I)))

#define _mm512_mask_shldi_epi32(S, U, A, B, I) \
  ((__m512i)__builtin_ia32_selectd_512((__mmask16)(U), \
                                    (__v16si)_mm512_shldi_epi32((A), (B), (I)), \
                                    (__v16si)(__m512i)(S)))

#define _mm512_maskz_shldi_epi32(U, A, B, I) \
  ((__m512i)__builtin_ia32_selectd_512((__mmask16)(U), \
                                    (__v16si)_mm512_shldi_epi32((A), (B), (I)), \
                                    (__v16si)_mm512_setzero_si512()))

#define _mm512_shldi_epi16(A, B, I) \
  ((__m512i)__builtin_ia32_vpshldw512((__v32hi)(__m512i)(A), \
                                      (__v32hi)(__m512i)(B), (int)(I)))

#define _mm512_mask_shldi_epi16(S, U, A, B, I) \
  ((__m512i)__builtin_ia32_selectw_512((__mmask32)(U), \
                                    (__v32hi)_mm512_shldi_epi16((A), (B), (I)), \
                                    (__v32hi)(__m512i)(S)))

#define _mm512_maskz_shldi_epi16(U, A, B, I) \
  ((__m512i)__builtin_ia32_selectw_512((__mmask32)(U), \
                                    (__v32hi)_mm512_shldi_epi16((A), (B), (I)), \
                                    (__v32hi)_mm512_setzero_si512()))

#define _mm512_shrdi_epi64(A, B, I) \
  ((__m512i)__builtin_ia32_vpshrdq512((__v8di)(__m512i)(A), \
                                      (__v8di)(__m512i)(B), (int)(I)))

#define _mm512_mask_shrdi_epi64(S, U, A, B, I) \
  ((__m512i)__builtin_ia32_selectq_512((__mmask8)(U), \
                                     (__v8di)_mm512_shrdi_epi64((A), (B), (I)), \
                                     (__v8di)(__m512i)(S)))

#define _mm512_maskz_shrdi_epi64(U, A, B, I) \
  ((__m512i)__builtin_ia32_selectq_512((__mmask8)(U), \
                                     (__v8di)_mm512_shrdi_epi64((A), (B), (I)), \
                                     (__v8di)_mm512_setzero_si512()))

#define _mm512_shrdi_epi32(A, B, I) \
  ((__m512i)__builtin_ia32_vpshrdd512((__v16si)(__m512i)(A), \
                                      (__v16si)(__m512i)(B), (int)(I)))

#define _mm512_mask_shrdi_epi32(S, U, A, B, I) \
  ((__m512i)__builtin_ia32_selectd_512((__mmask16)(U), \
                                    (__v16si)_mm512_shrdi_epi32((A), (B), (I)), \
                                    (__v16si)(__m512i)(S)))

#define _mm512_maskz_shrdi_epi32(U, A, B, I) \
  ((__m512i)__builtin_ia32_selectd_512((__mmask16)(U), \
                                    (__v16si)_mm512_shrdi_epi32((A), (B), (I)), \
                                    (__v16si)_mm512_setzero_si512()))

#define _mm512_shrdi_epi16(A, B, I) \
  ((__m512i)__builtin_ia32_vpshrdw512((__v32hi)(__m512i)(A), \
                                      (__v32hi)(__m512i)(B), (int)(I)))

#define _mm512_mask_shrdi_epi16(S, U, A, B, I) \
  ((__m512i)__builtin_ia32_selectw_512((__mmask32)(U), \
                                    (__v32hi)_mm512_shrdi_epi16((A), (B), (I)), \
                                    (__v32hi)(__m512i)(S)))

#define _mm512_maskz_shrdi_epi16(U, A, B, I) \
  ((__m512i)__builtin_ia32_selectw_512((__mmask32)(U), \
                                    (__v32hi)_mm512_shrdi_epi16((A), (B), (I)), \
                                    (__v32hi)_mm512_setzero_si512()))

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_shldv_epi64(__m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_vpshldvq512((__v8di)__A, (__v8di)__B,
                                             (__v8di)__C);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_shldv_epi64(__m512i __A, __mmask8 __U, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectq_512(__U,
                                      (__v8di)_mm512_shldv_epi64(__A, __B, __C),
                                      (__v8di)__A);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_shldv_epi64(__mmask8 __U, __m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectq_512(__U,
                                      (__v8di)_mm512_shldv_epi64(__A, __B, __C),
                                      (__v8di)_mm512_setzero_si512());
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_shldv_epi32(__m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_vpshldvd512((__v16si)__A, (__v16si)__B,
                                             (__v16si)__C);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_shldv_epi32(__m512i __A, __mmask16 __U, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectd_512(__U,
                                     (__v16si)_mm512_shldv_epi32(__A, __B, __C),
                                     (__v16si)__A);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_shldv_epi32(__mmask16 __U, __m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectd_512(__U,
                                     (__v16si)_mm512_shldv_epi32(__A, __B, __C),
                                     (__v16si)_mm512_setzero_si512());
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_shldv_epi16(__m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_vpshldvw512((__v32hi)__A, (__v32hi)__B,
                                             (__v32hi)__C);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_shldv_epi16(__m512i __A, __mmask32 __U, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectw_512(__U,
                                     (__v32hi)_mm512_shldv_epi16(__A, __B, __C),
                                     (__v32hi)__A);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_shldv_epi16(__mmask32 __U, __m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectw_512(__U,
                                     (__v32hi)_mm512_shldv_epi16(__A, __B, __C),
                                     (__v32hi)_mm512_setzero_si512());
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_shrdv_epi64(__m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_vpshrdvq512((__v8di)__A, (__v8di)__B,
                                             (__v8di)__C);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_shrdv_epi64(__m512i __A, __mmask8 __U, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectq_512(__U,
                                      (__v8di)_mm512_shrdv_epi64(__A, __B, __C),
                                      (__v8di)__A);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_shrdv_epi64(__mmask8 __U, __m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectq_512(__U,
                                      (__v8di)_mm512_shrdv_epi64(__A, __B, __C),
                                      (__v8di)_mm512_setzero_si512());
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_shrdv_epi32(__m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_vpshrdvd512((__v16si)__A, (__v16si)__B,
                                             (__v16si)__C);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_shrdv_epi32(__m512i __A, __mmask16 __U, __m512i __B, __m512i __C)
{
  return (__m512i) __builtin_ia32_selectd_512(__U,
                                     (__v16si)_mm512_shrdv_epi32(__A, __B, __C),
                                     (__v16si)__A);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_shrdv_epi32(__mmask16 __U, __m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i) __builtin_ia32_selectd_512(__U,
                                     (__v16si)_mm512_shrdv_epi32(__A, __B, __C),
                                     (__v16si)_mm512_setzero_si512());
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_shrdv_epi16(__m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_vpshrdvw512((__v32hi)__A, (__v32hi)__B,
                                             (__v32hi)__C);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_mask_shrdv_epi16(__m512i __A, __mmask32 __U, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectw_512(__U,
                                     (__v32hi)_mm512_shrdv_epi16(__A, __B, __C),
                                     (__v32hi)__A);
}

static __inline__ __m512i __DEFAULT_FN_ATTRS
_mm512_maskz_shrdv_epi16(__mmask32 __U, __m512i __A, __m512i __B, __m512i __C)
{
  return (__m512i)__builtin_ia32_selectw_512(__U,
                                     (__v32hi)_mm512_shrdv_epi16(__A, __B, __C),
                                     (__v32hi)_mm512_setzero_si512());
}

#undef __DEFAULT_FN_ATTRS

#endif

[+] ..
[-] riscv_ntlh.h [edit]
[-] avx512vlbitalgintrin.h [edit]
[-] avxifmaintrin.h [edit]
[-] mm_malloc.h [edit]
[-] avx512vlbf16intrin.h [edit]
[-] mwaitxintrin.h [edit]
[-] adxintrin.h [edit]
[-] arm_cmse.h [edit]
[-] __clang_cuda_intrinsics.h [edit]
[-] module.modulemap [edit]
[-] crc32intrin.h [edit]
[+] cuda_wrappers
[-] msa.h [edit]
[-] __clang_hip_stdlib.h [edit]
[-] arm_acle.h [edit]
[-] arm_neon_sve_bridge.h [edit]
[-] xsaveintrin.h [edit]
[-] velintrin_gen.h [edit]
[-] stdatomic.h [edit]
[-] hvx_hexagon_protos.h [edit]
[-] uintrintrin.h [edit]
[-] fxsrintrin.h [edit]
[-] sha512intrin.h [edit]
[-] __clang_cuda_texture_intrinsics.h [edit]
[-] iso646.h [edit]
[-] unwind.h [edit]
[-] avx512vlbwintrin.h [edit]
[-] avxvnniint8intrin.h [edit]
[-] avx512erintrin.h [edit]
[-] avxvnniintrin.h [edit]
[-] ia32intrin.h [edit]
[-] rdseedintrin.h [edit]
[-] prfchiintrin.h [edit]
[-] amxcomplexintrin.h [edit]
[-] clflushoptintrin.h [edit]
[-] htmxlintrin.h [edit]
[-] avx512fintrin.h [edit]
[-] gfniintrin.h [edit]
[-] arm_cde.h [edit]
[+] ppc_wrappers
[-] amxfp16intrin.h [edit]
[-] velintrin_approx.h [edit]
[-] avx512pfintrin.h [edit]
[-] stdarg.h [edit]
[-] cmpccxaddintrin.h [edit]
[-] avx512vlintrin.h [edit]
[-] __clang_hip_math.h [edit]
[-] vecintrin.h [edit]
[-] xtestintrin.h [edit]
[-] __wmmintrin_aes.h [edit]
[-] arm_neon.h [edit]
[-] immintrin.h [edit]
[-] ammintrin.h [edit]
[-] waitpkgintrin.h [edit]
[-] vpclmulqdqintrin.h [edit]
[-] fmaintrin.h [edit]
[-] tsxldtrkintrin.h [edit]
[-] prfchwintrin.h [edit]
[-] avx512bitalgintrin.h [edit]
[-] bmiintrin.h [edit]
[-] __wmmintrin_pclmul.h [edit]
[-] htmintrin.h [edit]
[-] mm3dnow.h [edit]
[-] __clang_cuda_builtin_vars.h [edit]
[-] __clang_hip_runtime_wrapper.h [edit]
[-] stdbool.h [edit]
[-] altivec.h [edit]
[-] wbnoinvdintrin.h [edit]
[-] keylockerintrin.h [edit]
[-] tgmath.h [edit]
[-] hexagon_circ_brev_intrinsics.h [edit]
[-] x86intrin.h [edit]
[-] pkuintrin.h [edit]
[-] avx512vbmivlintrin.h [edit]
[-] avxneconvertintrin.h [edit]
[-] __clang_hip_cmath.h [edit]
[-] sgxintrin.h [edit]
[-] f16cintrin.h [edit]
[-] opencl-c-base.h [edit]
[-] cpuid.h [edit]
[-] raointintrin.h [edit]
[-] builtins.h [edit]
[-] emmintrin.h [edit]
[-] smmintrin.h [edit]
[-] vaesintrin.h [edit]
[-] larchintrin.h [edit]
[-] avx512ifmaintrin.h [edit]
[-] intrin.h [edit]
[-] avx512vlvp2intersectintrin.h [edit]
[-] fma4intrin.h [edit]
[-] pmmintrin.h [edit]
[-] __clang_hip_libdevice_declares.h [edit]
[-] limits.h [edit]
[-] clwbintrin.h [edit]
[-] rtmintrin.h [edit]
[-] mmintrin.h [edit]
[-] stddef.h [edit]
[-] invpcidintrin.h [edit]
[-] avx512vp2intersectintrin.h [edit]
[-] cet.h [edit]
[-] xopintrin.h [edit]
[-] avx512vlvnniintrin.h [edit]
[-] avx512vlfp16intrin.h [edit]
[-] stdint.h [edit]
[-] arm64intr.h [edit]
[-] sm4intrin.h [edit]
[-] avx512vnniintrin.h [edit]
[-] avx2intrin.h [edit]
[-] movdirintrin.h [edit]
[-] tbmintrin.h [edit]
[-] arm_mve.h [edit]
[-] avx512ifmavlintrin.h [edit]
[-] amxintrin.h [edit]
[-] opencl-c.h [edit]
[-] stdalign.h [edit]
[-] __clang_cuda_device_functions.h [edit]
[-] pconfigintrin.h [edit]
[-] avx512fp16intrin.h [edit]
[-] inttypes.h [edit]
[-] arm_bf16.h [edit]
[-] __clang_cuda_math_forward_declares.h [edit]
[-] vadefs.h [edit]
[-] shaintrin.h [edit]
[-] hexagon_protos.h [edit]
[-] ptwriteintrin.h [edit]
[-] xsaveoptintrin.h [edit]
[-] enqcmdintrin.h [edit]
[-] x86gprintrin.h [edit]
[-] tmmintrin.h [edit]
[-] stdnoreturn.h [edit]
[-] avx512bf16intrin.h [edit]
[-] varargs.h [edit]
[-] s390intrin.h [edit]
[-] avx512vbmiintrin.h [edit]
[+] openmp_wrappers
[-] wmmintrin.h [edit]
[-] __clang_cuda_cmath.h [edit]
[-] clzerointrin.h [edit]
[-] xsavesintrin.h [edit]
[-] __clang_cuda_libdevice_declares.h [edit]
[-] nmmintrin.h [edit]
[-] wasm_simd128.h [edit]
[-] xsavecintrin.h [edit]
[-] avx512dqintrin.h [edit]
[-] lwpintrin.h [edit]
[-] serializeintrin.h [edit]
[-] arm_sme_draft_spec_subject_to_change.h [edit]
[-] avxintrin.h [edit]
[-] __stddef_max_align_t.h [edit]
[-] sm3intrin.h [edit]
[-] velintrin.h [edit]
[-] __clang_cuda_complex_builtins.h [edit]
[-] armintr.h [edit]
[-] avx512cdintrin.h [edit]
[-] float.h [edit]
[-] avx512vbmi2intrin.h [edit]
[-] lzcntintrin.h [edit]
[-] sifive_vector.h [edit]
[-] rdpruintrin.h [edit]
[-] arm_sve.h [edit]
[-] avx512vpopcntdqintrin.h [edit]
[-] xmmintrin.h [edit]
[-] hresetintrin.h [edit]
[-] bmi2intrin.h [edit]
[-] hexagon_types.h [edit]
[-] avx512bwintrin.h [edit]
[-] cetintrin.h [edit]
[-] __clang_cuda_math.h [edit]
[-] avx512vlvbmi2intrin.h [edit]
[-] arm_fp16.h [edit]
[-] avx512vpopcntdqvlintrin.h [edit]
[-] avxvnniint16intrin.h [edit]
[+] llvm_libc_wrappers
[-] __clang_cuda_runtime_wrapper.h [edit]
[-] cldemoteintrin.h [edit]
[-] avx512vldqintrin.h [edit]
[-] avx512vlcdintrin.h [edit]
[-] popcntintrin.h [edit]