[Clang][Intrinsics][avx512] Adding round intrinsics fot max/min/sqrt instruction set to clang

Differential Revision: http://reviews.llvm.org/D20812

llvm-svn: 271373
This commit is contained in:
Michael Zuckerman 2016-06-01 08:34:03 +00:00
parent 4b7e150b5a
commit e6aa66a53d
2 changed files with 259 additions and 4 deletions

View File

@ -813,6 +813,29 @@ _mm512_maskz_sub_epi32 (__mmask16 __U, __m512i __A, __m512i __B)
(__mmask16) __U); (__mmask16) __U);
} }
#define _mm512_mask_max_round_pd( __W, __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_maxpd512_mask ((__v8df)( __A),\
(__v8df)( __B),\
(__v8df)( __W),\
(__mmask8)( __U),( __R));\
})
#define _mm512_maskz_max_round_pd( __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_maxpd512_mask ((__v8df)( __A),\
(__v8df)( __B),\
(__v8df)\
_mm512_setzero_pd (),\
(__mmask8)( __U),( __R));\
})
#define _mm512_max_round_pd( __A, __B, __R) __extension__ ({ \
__builtin_ia32_maxpd512_mask ((__v8df)( __A),\
(__v8df)( __B),\
(__v8df)\
_mm512_undefined_pd (),\
(__mmask8) -1,( __R));\
})
static __inline__ __m512d __DEFAULT_FN_ATTRS static __inline__ __m512d __DEFAULT_FN_ATTRS
_mm512_max_pd(__m512d __A, __m512d __B) _mm512_max_pd(__m512d __A, __m512d __B)
{ {
@ -845,6 +868,29 @@ _mm512_maskz_max_pd (__mmask8 __U, __m512d __A, __m512d __B)
_MM_FROUND_CUR_DIRECTION); _MM_FROUND_CUR_DIRECTION);
} }
#define _mm512_mask_max_round_ps( __W, __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_maxps512_mask ((__v16sf)( __A),\
(__v16sf)( __B),\
(__v16sf)( __W),\
(__mmask16)( __U),( __R));\
})
#define _mm512_maskz_max_round_ps( __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_maxps512_mask ((__v16sf)( __A),\
(__v16sf)( __B),\
(__v16sf)\
_mm512_setzero_ps (),\
(__mmask16)( __U),( __R));\
})
#define _mm512_max_round_ps( __A, __B, __R) __extension__ ({ \
__builtin_ia32_maxps512_mask ((__v16sf)( __A),\
(__v16sf)( __B),\
(__v16sf)\
_mm512_undefined_ps (),\
(__mmask16) -1,( __R));\
})
static __inline__ __m512 __DEFAULT_FN_ATTRS static __inline__ __m512 __DEFAULT_FN_ATTRS
_mm512_max_ps(__m512 __A, __m512 __B) _mm512_max_ps(__m512 __A, __m512 __B)
{ {
@ -1062,6 +1108,29 @@ _mm512_maskz_max_epu64 (__mmask8 __M, __m512i __A, __m512i __B)
__M); __M);
} }
#define _mm512_mask_min_round_pd( __W, __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_minpd512_mask ((__v8df)( __A),\
(__v8df)( __B),\
(__v8df)( __W),\
(__mmask8)( __U),( __R));\
})
#define _mm512_maskz_min_round_pd( __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_minpd512_mask ((__v8df)( __A),\
(__v8df)( __B),\
(__v8df)\
_mm512_setzero_pd (),\
(__mmask8)( __U),( __R));\
})
#define _mm512_min_round_pd( __A, __B, __R) __extension__ ({ \
__builtin_ia32_minpd512_mask ((__v8df)( __A),\
(__v8df)( __B),\
(__v8df)\
_mm512_undefined_pd (),\
(__mmask8) -1,( __R));\
})
static __inline__ __m512d __DEFAULT_FN_ATTRS static __inline__ __m512d __DEFAULT_FN_ATTRS
_mm512_min_pd(__m512d __A, __m512d __B) _mm512_min_pd(__m512d __A, __m512d __B)
{ {
@ -1083,6 +1152,29 @@ _mm512_mask_min_pd (__m512d __W, __mmask8 __U, __m512d __A, __m512d __B)
_MM_FROUND_CUR_DIRECTION); _MM_FROUND_CUR_DIRECTION);
} }
#define _mm512_mask_min_round_ps( __W, __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_minps512_mask ((__v16sf)( __A),\
(__v16sf)( __B),\
(__v16sf)( __W),\
(__mmask16)( __U),( __R));\
})
#define _mm512_maskz_min_round_ps( __U, __A, __B, __R) __extension__ ({ \
__builtin_ia32_minps512_mask ((__v16sf)( __A),\
(__v16sf)( __B),\
(__v16sf)\
_mm512_setzero_ps (),\
(__mmask16)( __U),( __R));\
})
#define _mm512_min_round_ps( __A, __B, __R) __extension__ ({ \
__builtin_ia32_minps512_mask ((__v16sf)( __A),\
(__v16sf)( __B),\
(__v16sf)\
_mm512_undefined_ps (),\
(__mmask16) -1,( __R));\
})
static __inline__ __m512d __DEFAULT_FN_ATTRS static __inline__ __m512d __DEFAULT_FN_ATTRS
_mm512_maskz_min_pd (__mmask8 __U, __m512d __A, __m512d __B) _mm512_maskz_min_pd (__mmask8 __U, __m512d __A, __m512d __B)
{ {
@ -1391,6 +1483,26 @@ _mm512_mask_mullo_epi32 (__m512i __W, __mmask16 __M, __m512i __A, __m512i __B)
(__v16si) __W, __M); (__v16si) __W, __M);
} }
#define _mm512_mask_sqrt_round_pd( __W, __U, __A, __R) __extension__ ({ \
__builtin_ia32_sqrtpd512_mask ((__v8df)( __A),\
(__v8df)( __W),\
(__mmask8)( __U),( __R));\
})
#define _mm512_maskz_sqrt_round_pd( __U, __A, __R) __extension__ ({ \
__builtin_ia32_sqrtpd512_mask ((__v8df)( __A),\
(__v8df)\
_mm512_setzero_pd (),\
(__mmask8)( __U),( __R));\
})
#define _mm512_sqrt_round_pd( __A, __R) __extension__ ({ \
__builtin_ia32_sqrtpd512_mask ((__v8df)( __A),\
(__v8df)\
_mm512_undefined_pd (),\
(__mmask8) -1,( __R));\
})
static __inline__ __m512d __DEFAULT_FN_ATTRS static __inline__ __m512d __DEFAULT_FN_ATTRS
_mm512_sqrt_pd(__m512d __a) _mm512_sqrt_pd(__m512d __a)
{ {
@ -1419,6 +1531,26 @@ _mm512_maskz_sqrt_pd (__mmask8 __U, __m512d __A)
_MM_FROUND_CUR_DIRECTION); _MM_FROUND_CUR_DIRECTION);
} }
#define _mm512_mask_sqrt_round_ps( __W, __U, __A, __R) __extension__ ({ \
__builtin_ia32_sqrtps512_mask ((__v16sf)( __A),\
(__v16sf)( __W),\
(__mmask16)( __U),( __R));\
})
#define _mm512_maskz_sqrt_round_ps( __U, __A, __R) __extension__ ({ \
__builtin_ia32_sqrtps512_mask ((__v16sf)( __A),\
(__v16sf)\
_mm512_setzero_ps (),\
(__mmask16)( __U),( __R));\
})
#define _mm512_sqrt_round_ps( __A, __R) __extension__ ({ \
__builtin_ia32_sqrtps512_mask ((__v16sf)( __A),\
(__v16sf)\
_mm512_undefined_ps (),\
(__mmask16) -1,( __R));\
})
static __inline__ __m512 __DEFAULT_FN_ATTRS static __inline__ __m512 __DEFAULT_FN_ATTRS
_mm512_sqrt_ps(__m512 __a) _mm512_sqrt_ps(__m512 __a)
{ {
@ -1679,7 +1811,6 @@ _mm512_mask_floor_ps (__m512 __W, __mmask16 __U, __m512 __A)
_MM_FROUND_CUR_DIRECTION); _MM_FROUND_CUR_DIRECTION);
} }
static __inline __m512d __DEFAULT_FN_ATTRS static __inline __m512d __DEFAULT_FN_ATTRS
_mm512_floor_pd(__m512d __A) _mm512_floor_pd(__m512d __A)
{ {
@ -1698,7 +1829,6 @@ _mm512_mask_floor_pd (__m512d __W, __mmask8 __U, __m512d __A)
_MM_FROUND_CUR_DIRECTION); _MM_FROUND_CUR_DIRECTION);
} }
static __inline__ __m512 __DEFAULT_FN_ATTRS static __inline__ __m512 __DEFAULT_FN_ATTRS
_mm512_mask_ceil_ps (__m512 __W, __mmask16 __U, __m512 __A) _mm512_mask_ceil_ps (__m512 __W, __mmask16 __U, __m512 __A)
{ {
@ -3679,8 +3809,7 @@ _mm512_maskz_cvtpd_ps (__mmask8 __U, __m512d __A)
(__m256i)__builtin_ia32_vcvtps2ph512_mask((__v16sf)(__m512)(A), (int)(I), \ (__m256i)__builtin_ia32_vcvtps2ph512_mask((__v16sf)(__m512)(A), (int)(I), \
(__v16hi)_mm256_setzero_si256(), \ (__v16hi)_mm256_setzero_si256(), \
(__mmask16)(W)); }) (__mmask16)(W)); })
static __inline __m512 __DEFAULT_FN_ATTRS static __inline __m512 __DEFAULT_FN_ATTRS
_mm512_cvtph_ps(__m256i __A) _mm512_cvtph_ps(__m256i __A)
{ {

View File

@ -26,6 +26,27 @@ __m512d test_mm512_maskz_sqrt_pd (__mmask8 __U, __m512d __A)
return _mm512_maskz_sqrt_pd (__U,__A); return _mm512_maskz_sqrt_pd (__U,__A);
} }
__m512d test_mm512_mask_sqrt_round_pd(__m512d __W,__mmask8 __U,__m512d __A)
{
// CHECK-LABEL: @test_mm512_mask_sqrt_round_pd
// CHECK: @llvm.x86.avx512.mask.sqrt.pd.512
return _mm512_mask_sqrt_round_pd(__W,__U,__A,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_maskz_sqrt_round_pd(__mmask8 __U,__m512d __A)
{
// CHECK-LABEL: @test_mm512_maskz_sqrt_round_pd
// CHECK: @llvm.x86.avx512.mask.sqrt.pd.512
return _mm512_maskz_sqrt_round_pd(__U,__A,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_sqrt_round_pd(__m512d __A)
{
// CHECK-LABEL: @test_mm512_sqrt_round_pd
// CHECK: @llvm.x86.avx512.mask.sqrt.pd.512
return _mm512_sqrt_round_pd(__A,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_sqrt_ps(__m512 a) __m512 test_mm512_sqrt_ps(__m512 a)
{ {
// CHECK-LABEL: @test_mm512_sqrt_ps // CHECK-LABEL: @test_mm512_sqrt_ps
@ -47,6 +68,27 @@ __m512 test_mm512_maskz_sqrt_ps( __mmask8 __U, __m512 __A)
return _mm512_maskz_sqrt_ps(__U ,__A); return _mm512_maskz_sqrt_ps(__U ,__A);
} }
__m512 test_mm512_mask_sqrt_round_ps(__m512 __W,__mmask16 __U,__m512 __A)
{
// CHECK-LABEL: @test_mm512_mask_sqrt_round_ps
// CHECK: @llvm.x86.avx512.mask.sqrt.ps.512
return _mm512_mask_sqrt_round_ps(__W,__U,__A,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_maskz_sqrt_round_ps(__mmask16 __U,__m512 __A)
{
// CHECK-LABEL: @test_mm512_maskz_sqrt_round_ps
// CHECK: @llvm.x86.avx512.mask.sqrt.ps.512
return _mm512_maskz_sqrt_round_ps(__U,__A,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_sqrt_round_ps(__m512 __A)
{
// CHECK-LABEL: @test_mm512_sqrt_round_ps
// CHECK: @llvm.x86.avx512.mask.sqrt.ps.512
return _mm512_sqrt_round_ps(__A,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_rsqrt14_pd(__m512d a) __m512d test_mm512_rsqrt14_pd(__m512d a)
{ {
// CHECK-LABEL: @test_mm512_rsqrt14_pd // CHECK-LABEL: @test_mm512_rsqrt14_pd
@ -6576,6 +6618,27 @@ __m512 test_mm512_mask_max_ps (__m512 __W, __mmask16 __U, __m512 __A, __m512 __B
return _mm512_mask_max_ps (__W,__U,__A,__B); return _mm512_mask_max_ps (__W,__U,__A,__B);
} }
__m512d test_mm512_mask_max_round_pd(__m512d __W,__mmask8 __U,__m512d __A,__m512d __B)
{
// CHECK-LABEL: @test_mm512_mask_max_round_pd
// CHECK: @llvm.x86.avx512.mask.max.pd.512
return _mm512_mask_max_round_pd(__W,__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_maskz_max_round_pd(__mmask8 __U,__m512d __A,__m512d __B)
{
// CHECK-LABEL: @test_mm512_maskz_max_round_pd
// CHECK: @llvm.x86.avx512.mask.max.pd.512
return _mm512_maskz_max_round_pd(__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_max_round_pd(__m512d __A,__m512d __B)
{
// CHECK-LABEL: @test_mm512_max_round_pd
// CHECK: @llvm.x86.avx512.mask.max.pd.512
return _mm512_max_round_pd(__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_maskz_max_ps (__mmask16 __U, __m512 __A, __m512 __B) __m512 test_mm512_maskz_max_ps (__mmask16 __U, __m512 __A, __m512 __B)
{ {
// CHECK-LABEL: @test_mm512_maskz_max_ps // CHECK-LABEL: @test_mm512_maskz_max_ps
@ -6583,6 +6646,27 @@ __m512 test_mm512_maskz_max_ps (__mmask16 __U, __m512 __A, __m512 __B)
return _mm512_maskz_max_ps (__U,__A,__B); return _mm512_maskz_max_ps (__U,__A,__B);
} }
__m512 test_mm512_mask_max_round_ps(__m512 __W,__mmask16 __U,__m512 __A,__m512 __B)
{
// CHECK-LABEL: @test_mm512_mask_max_round_ps
// CHECK: @llvm.x86.avx512.mask.max.ps.512
return _mm512_mask_max_round_ps(__W,__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_maskz_max_round_ps(__mmask16 __U,__m512 __A,__m512 __B)
{
// CHECK-LABEL: @test_mm512_maskz_max_round_ps
// CHECK: @llvm.x86.avx512.mask.max.ps.512
return _mm512_maskz_max_round_ps(__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_max_round_ps(__m512 __A,__m512 __B)
{
// CHECK-LABEL: @test_mm512_max_round_ps
// CHECK: @llvm.x86.avx512.mask.max.ps.512
return _mm512_max_round_ps(__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_mask_min_pd (__m512d __W, __mmask8 __U, __m512d __A, __m512d __B) __m512d test_mm512_mask_min_pd (__m512d __W, __mmask8 __U, __m512d __A, __m512d __B)
{ {
// CHECK-LABEL: @test_mm512_mask_min_pd // CHECK-LABEL: @test_mm512_mask_min_pd
@ -6597,6 +6681,27 @@ __m512d test_mm512_maskz_min_pd (__mmask8 __U, __m512d __A, __m512d __B)
return _mm512_maskz_min_pd (__U,__A,__B); return _mm512_maskz_min_pd (__U,__A,__B);
} }
__m512d test_mm512_mask_min_round_pd(__m512d __W,__mmask8 __U,__m512d __A,__m512d __B)
{
// CHECK-LABEL: @test_mm512_mask_min_round_pd
// CHECK: @llvm.x86.avx512.mask.min.pd.512
return _mm512_mask_min_round_pd(__W,__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_maskz_min_round_pd(__mmask8 __U,__m512d __A,__m512d __B)
{
// CHECK-LABEL: @test_mm512_maskz_min_round_pd
// CHECK: @llvm.x86.avx512.mask.min.pd.512
return _mm512_maskz_min_round_pd(__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512d test_mm512_min_round_pd( __m512d __A,__m512d __B)
{
// CHECK-LABEL: @test_mm512_min_round_pd
// CHECK: @llvm.x86.avx512.mask.min.pd.512
return _mm512_min_round_pd(__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_mask_min_ps (__m512 __W, __mmask16 __U, __m512 __A, __m512 __B) __m512 test_mm512_mask_min_ps (__m512 __W, __mmask16 __U, __m512 __A, __m512 __B)
{ {
// CHECK-LABEL: @test_mm512_mask_min_ps // CHECK-LABEL: @test_mm512_mask_min_ps
@ -6611,6 +6716,27 @@ __m512 test_mm512_maskz_min_ps (__mmask16 __U, __m512 __A, __m512 __B)
return _mm512_maskz_min_ps (__U,__A,__B); return _mm512_maskz_min_ps (__U,__A,__B);
} }
__m512 test_mm512_mask_min_round_ps(__m512 __W,__mmask16 __U,__m512 __A,__m512 __B)
{
// CHECK-LABEL: @test_mm512_mask_min_round_ps
// CHECK: @llvm.x86.avx512.mask.min.ps.512
return _mm512_mask_min_round_ps(__W,__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_maskz_min_round_ps(__mmask16 __U,__m512 __A,__m512 __B)
{
// CHECK-LABEL: @test_mm512_maskz_min_round_ps
// CHECK: @llvm.x86.avx512.mask.min.ps.512
return _mm512_maskz_min_round_ps(__U,__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_min_round_ps(__m512 __A,__m512 __B)
{
// CHECK-LABEL: @test_mm512_min_round_ps
// CHECK: @llvm.x86.avx512.mask.min.ps.512
return _mm512_min_round_ps(__A,__B,_MM_FROUND_CUR_DIRECTION);
}
__m512 test_mm512_mask_floor_ps (__m512 __W, __mmask16 __U, __m512 __A) __m512 test_mm512_mask_floor_ps (__m512 __W, __mmask16 __U, __m512 __A)
{ {
// CHECK-LABEL: @test_mm512_mask_floor_ps // CHECK-LABEL: @test_mm512_mask_floor_ps