target/s390x: Fix determination of overflow condition code after subtraction
authorBruno Haible <bruno@clisp.org>
Wed, 23 Mar 2022 16:26:21 +0000 (17:26 +0100)
committerThomas Huth <thuth@redhat.com>
Fri, 1 Apr 2022 11:06:07 +0000 (13:06 +0200)
commitfc6e0d0f2db5126592bb4066d484fcdfc14ccf36
treeee1c652c9bdafc5362acde237186121bcdc17764
parent5a2e67a691501bc4dd81c46c81b8f1881c8bd5df
target/s390x: Fix determination of overflow condition code after subtraction

Reported by Paul Eggert in
https://lists.gnu.org/archive/html/bug-gnulib/2021-09/msg00050.html

This program currently prints different results when run with TCG instead
of running on real s390x hardware:

 #include <stdio.h>

 int overflow_32 (int x, int y)
 {
   int sum;
   return __builtin_sub_overflow (x, y, &sum);
 }

 int overflow_64 (long long x, long long y)
 {
   long sum;
   return __builtin_sub_overflow (x, y, &sum);
 }

 int a1 = 0;
 int b1 = -2147483648;
 long long a2 = 0L;
 long long b2 = -9223372036854775808L;

 int main ()
 {
   {
     int a = a1;
     int b = b1;
     printf ("a = 0x%x, b = 0x%x\n", a, b);
     printf ("no_overflow = %d\n", ! overflow_32 (a, b));
   }
   {
     long long a = a2;
     long long b = b2;
     printf ("a = 0x%llx, b = 0x%llx\n", a, b);
     printf ("no_overflow = %d\n", ! overflow_64 (a, b));
   }
 }

Signed-off-by: Bruno Haible <bruno@clisp.org>
Resolves: https://gitlab.com/qemu-project/qemu/-/issues/618
Message-Id: <20220323162621.139313-3-thuth@redhat.com>
Signed-off-by: Thomas Huth <thuth@redhat.com>
target/s390x/tcg/cc_helper.c